Недавнє дослідження, проведене дослідниками з Університет Східної Англії у Великій Британії пролило світло на потенційну політичну упередженість, вбудовану в Chat OpenAI. Це викриття підкреслює постійні проблеми, з якими стикаються компанії, що займаються штучним інтелектом, у контролі поведінки своїх ботів, особливо враховуючи, що ці боти стають невід'ємною частиною життя мільйонів користувачів у всьому світі.
У дослідженні Chat було проведено опитування щодо політичних переконань, зосереджуючись на прихильниках ліберальних партій у Сполучених Штатах, Великій Британії та Бразилії. Отримані відповіді потім порівнювали з відповідями, отриманими без будь-яких підказок, що виявило послідовну та помітну політичну упередженість. Зокрема, дослідження виявило значну схильність до демократів у США, Лули в Бразилії та Лейбористської партії у Великій Британії, що вказує на систематичну упередженість у відповідях.
Ці висновки перегукуються зі зростаючою кількістю досліджень, які вказують на те, що, незважаючи на узгоджені зусилля щодо протидії упередженням на етапі проектування, чат-боти зі штучним інтелектом, такі як Chat, неминуче поглинають припущення, переконання та стереотипи, присутні у величезному пулі даних, на яких вони навчаються.
Це питання стає особливо актуальним, оскільки чат-боти все більше інтегруються в повсякденні справи. Поки Сполучені Штати готуються до президентських виборів 2024 року, чат-боти беруть на себе роль у житті людей, окрім простої допомоги, допомоги в узагальненні документів, відповідей на запити та навіть сприяння професійним та особистим письмовим завданням. Оскільки такі платформи, як Google, використовують чат-ботів для безпосередньої обробки пошукових запитів і політичних кампаній, які використовують їх для створення контенту, потенційний вплив на сприйняття громадськістю та навіть результати виборів викликає занепокоєння.
Хоча Chat стверджує перед користувачами про відсутність політичних поглядів чи упереджень, провідний автор дослідження, Фабіо Мотокі, стверджує протилежне. Виявлені упередження можуть підірвати довіру громадськості та потенційно справити ненавмисний вплив на політичні процеси.
Відповіді від великих компаній штучного інтелекту, включаючи Meta, Google і OpenAI, ще не отримані щодо цих висновків. OpenAI раніше заявляв, що будь-які упередження, виявлені в їхніх моделях штучного інтелекту, є ненавмисними і не свідчать про навмисну функцію.
Це дослідження підкреслює складну проблему зменшення упереджень у моделях штучного інтелекту, особливо в епоху генеративних чат-ботів. Ці чат-боти, включаючи Chat, Bard від Google та Bing від Microsoft, побудовані на величезних мовних моделях, які екстенсивно обробляють дані з Інтернету. Отже, вони, як правило, відображають упередження та точки зору, поширені в Інтернеті.
Більше того, ці чат-боти стали центрами дискусій, що охоплюють політику, технології та соціальні мережі. Навіть Chat зіткнувся зі звинуваченнями в упередженості невдовзі після свого запуску, зокрема у підтримці ліберальних поглядів. Це висвітлює ширшу дискусію про те, як технології та платформи соціальних мереж можуть впливати на політичні результати та суспільну поляризацію.
Оскільки чат-боти все більше вкорінюються в онлайн-взаємодії, їхні результати можуть ще більше посилити існуючу поляризацію, яка спостерігається в суспільстві. Інформаційний ландшафт, який дедалі більше формується контентом, створеним ботами, може ненавмисно сприяти зворотному зв’язку поляризації.
Роботи щодо вирішення цих питань тривають. Дослідники активно досліджують методи виявлення та пом’якшення упереджень у відповідях чат-ботів. Запропонований підхід передбачає додатковий рівень, який визначає упереджену мову та замінює її нейтральними альтернативами. Тим не менш, враховуючи розгалужену природу Інтернету та складний гобелен упереджень, які він охоплює, досягнення ідеального нейтралітету залишається недосяжною метою.
На завершення дослідження проливає світло на тонкощі упереджень ШІ та їх потенційний вплив на політичний дискурс і прийняття рішень. Дослідження слугує нагадуванням про те, що хоча технологія ШІ пропонує захоплюючі можливості, вона також несе значну відповідальність за управління непередбаченими наслідками. Оскільки штучний інтелект продовжує розвиватися, пошук балансу між технологічним прогресом і етичними міркуваннями залишатиметься критичною проблемою.