の研究者によって行われた最近の研究では、 イースト・アングリア大学 英国の研究者が、OpenAIのチャットに埋め込まれた潜在的な政治的偏向を明らかにしました。この発見は、人工知能企業がボットの行動を制御する上で直面している継続的な課題を浮き彫りにしています。特に、ボットが世界中の何百万人ものユーザーの生活に不可欠なものになるにつれて、その課題はさらに深刻化しています。
この研究では、Chatは米国、英国、ブラジルのリベラル政党支持者を対象とした政治的信念に関する調査を受けました。得られた回答を、何の指示もなしに生成された回答と比較したところ、一貫して顕著な政治的偏りが明らかになりました。具体的には、米国では民主党、ブラジルではルラ氏、英国では労働党への強い支持が顕著に見られ、回答に体系的な偏りがあることが示されました。
これらの調査結果は、設計段階で偏見に対抗するための集中的な努力にもかかわらず、Chat のような AI チャットボットは、トレーニングに使用した膨大なデータプールに存在する仮定、信念、固定観念を必然的に吸収してしまうことを指摘する、増え続ける研究結果と一致しています。
チャットボットが日常業務にますます統合されるにつれて、この問題は特に重要になります。 米国が 2024 年の大統領選挙に向けて準備を進める中、チャットボットは人々の生活の中で単なる支援を超えた役割を担っており、文書の要約を支援したり、質問に答えたり、さらには職業的および個人的な執筆作業にも貢献しています。 Google などのプラットフォームは検索の問い合わせに直接対応するためにチャットボットを採用しており、コンテンツ生成にチャットボットを利用した政治キャンペーンも行われているため、国民の認識や選挙結果にまで影響を及ぼす可能性が懸念されています。
Chatはユーザーに対して政治的意見や偏見がないと主張しているが、研究の筆頭著者であるファビオ・モトキ氏はそうではないと示唆している。発見された偏見は国民の信頼を損ない、政治プロセスに意図しない影響を及ぼす可能性がある。
これらの調査結果に関して、Meta、Google、OpenAI などの大手 AI 企業からの回答はまだ得られていません。OpenAI は以前、AI モデルで検出されたバイアスは意図的なものではなく、意図的な機能を示すものではないと述べていました。
この研究は、特に生成型チャットボットの時代において、AIモデルにおけるバイアスを軽減することの複雑な課題を浮き彫りにしています。Chat、GoogleのBard、MicrosoftのBingといったこれらのチャットボットは、インターネットからのデータを広範囲に処理する大規模な言語モデルに基づいて構築されています。その結果、オンライン上に蔓延するバイアスや視点を反映する傾向があります。
さらに、これらのチャットボットは、政治、テクノロジー、ソーシャルメディアを網羅する議論の焦点となっています。チャットボットでさえ、ローンチ直後には偏見の疑い、リベラルな視点を優遇しているという非難に直面しました。これは、テクノロジーとソーシャルメディアプラットフォームが政治的帰結や社会の分極化にどのような影響を与えるかについての、より広範な議論を浮き彫りにしています。
チャットボットがオンライン インタラクションにさらに深く浸透するにつれて、その出力によって社会で観察される既存の二極化がさらに増幅される可能性があります。 ボット生成コンテンツによって形成される情報環境は、意図せずして二極化のフィードバック ループに寄与する可能性があります。
これらの問題に対処するための取り組みが継続中です。 研究者は、チャットボットの応答におけるバイアスを検出して軽減する方法を積極的に研究しています。 提案されたアプローチには、偏見のある言語を特定し、それを中立的な代替言語に置き換える追加のレイヤーが含まれます。 それにもかかわらず、インターネットの広大な性質とそれに含まれる偏見の複雑なタペストリーを考慮すると、完全な中立性を達成することは依然としてとらえどころのない目標です。
結論として、この研究は AI バイアスの複雑さと、それが政治的議論や意思決定に及ぼす潜在的な影響に光を当てています。 この研究は、AI テクノロジーが刺激的な可能性をもたらす一方で、意図しない結果を管理するという重大な責任も負っていることを思い出させてくれます。 AI が進化し続けるにつれて、技術の進歩と倫理的配慮の間のバランスを見つけることは依然として重要な課題です。