來自研究人員最近進行的一項研究 東英吉利大學 英國的醜聞揭露了OpenAI聊天功能中潛在的政治偏見。這起事件凸顯了人工智慧公司在控制其機器人行為方面面臨的持續挑戰，尤其是在這些機器人已成為全球數百萬用戶生活中不可或缺的一部分的情況下。
這項研究對Chat進行了一項政治信仰調查，重點關注美國、英國和巴西自由黨的支持者。隨後，研究人員將獲得的答案與未經提示的答案進行了比較，結果顯示Chat有持續且顯著的政治偏見。具體而言，研究發現，Chat的回答明顯傾向美國民主黨、巴西盧拉和英國工黨，這顯示Chat的回答有系統性偏見。
這些發現與越來越多的研究結果相呼應，這些研究指出，儘管在設計階段做出了一致努力來消除偏見，但像 Chat 這樣的人工智慧聊天機器人不可避免地會吸收它們所訓練的大量數據中存在的假設、信念和刻板印象。
隨著聊天機器人越來越多地融入日常生活中，這個問題變得尤為重要。 隨著美國為 2024 年總統選舉做準備，聊天機器人在人們的生活中扮演的角色不僅僅是簡單的協助，還包括幫助總結文件、回答查詢，甚至為專業和個人寫作任務做出貢獻。 隨著Google等平台使用聊天機器人直接解決搜尋查詢和利用聊天機器人生成內容的政治活動，對公眾認知甚至選舉結果的潛在影響引起了人們的擔憂。
儘管Chat堅稱對使用者不帶有政治觀點或偏見，但該研究的主要作者Fabio Motoki卻持相反觀點。他指出，Chat的偏見可能會損害公眾信任，並可能對政治進程產生意想不到的影響。
目前尚未獲得 Meta、Google 和 OpenAI 等主要人工智慧公司對這些發現的回應。 OpenAI 先前曾表示，在其人工智慧模型中檢測到的任何偏差都是無意的，並不表示故意的功能。
這項研究凸顯了減輕人工智慧模型偏見的複雜挑戰，尤其是在生成式聊天機器人時代。這些聊天機器人，包括 Chat、Google的 Bard 和微軟的 Bing，都建立在龐大的語言模型之上，這些模型廣泛處理來自網路的資料。因此，它們往往反映出網路上普遍存在的偏見和觀點。
此外，這些聊天機器人已成為政治、科技和社群媒體等討論的焦點。就連Chat在推出後不久就面臨偏見指控，被指偏袒自由主義觀點。這引發了關於科技和社群媒體平台如何影響政治結果和社會兩極化的更廣泛討論。
隨著聊天機器人在線上互動中變得更加根深蒂固，它們的輸出可能會進一步放大社會中觀察到的現有兩極化。 資訊格局日益受到機器人生成內容的影響，可能會無意中促成兩極化的回饋循環。
解決這些問題的努力正在進行中。 研究人員正在積極探索檢測和減輕聊天機器人回應偏差的方法。 所提出的方法涉及一個額外的層，該層可以識別有偏見的語言並用中性的替代語言替換它。 然而，考慮到互聯網的龐大性質及其所包含的錯綜複雜的偏見，實現完美的中立仍然是一個難以實現的目標。
總之，這項研究揭示了人工智慧偏見的複雜性及其對政治話語和決策的潛在影響。 這項研究提醒我們，雖然人工智慧技術提供了令人興奮的可能性，但它在管理意外後果方面也承擔著重大責任。 隨著人工智慧的不斷發展，在技術進步和道德考量之間找到平衡仍然是一個關鍵挑戰。