Nedávná studie provedená výzkumníky z University of East Anglia ve Spojeném království osvětlilo potenciální politickou zaujatost zakořeněnou v platformě Chat od OpenAI. Toto odhalení podtrhuje probíhající výzvy, kterým čelí společnosti zabývající se umělou inteligencí při kontrole chování svých botů, zejména proto, že se tito boti stávají nedílnou součástí života milionů uživatelů po celém světě.
Ve studii byl Chat podroben průzkumu o politických přesvědčeních se zaměřením na příznivce liberálních stran ve Spojených státech, Spojeném království a Brazílii. Získané odpovědi byly poté porovnány s odpověďmi generovanými bez jakéhokoli podnětu, což odhalilo konzistentní a zřetelnou politickou zaujatost. Výzkum konkrétně zdůraznil výrazný sklon k Demokratům v USA, Lulovi v Brazílii a Labouristické straně ve Spojeném království, což naznačuje systematickou zaujatost v jeho odpovědích.
Tato zjištění odrážejí rostoucí počet výzkumů, které poukazují na to, že navzdory soustředěnému úsilí o potlačení předsudků během fáze návrhu chatboti s umělou inteligencí, jako je Chat, nevyhnutelně absorbují předpoklady, přesvědčení a stereotypy přítomné v obrovském množství dat, na kterých jsou trénováni.
Tento problém se stává obzvláště aktuálním, protože chatboti se stále více integrují do každodenní rutiny. Zatímco se Spojené státy připravují na prezidentské volby v roce 2024, chatboti přebírají role v životech lidí nad rámec pouhé pomoci, pomáhají při shrnování dokumentů, odpovídání na dotazy a dokonce přispívají k profesionálním i osobním písemným úkolům. Vzhledem k tomu, že platformy jako Google využívají chatboty k přímému řešení vyhledávacích dotazů a politických kampaní, které je využívají ke generování obsahu, vzbuzuje potenciální dopad na veřejné vnímání a dokonce i na výsledky voleb obavy.
Zatímco Chat uživatelům tvrdí, že nemá politické názory ani předsudky, hlavní autor studie Fabio Motoki tvrdí opak. Zjištěné předsudky by mohly narušit důvěru veřejnosti a potenciálně mít nezamýšlený vliv na politické procesy.
V souvislosti s těmito zjištěními je třeba ještě získat odpovědi od hlavních společností zabývajících se umělou inteligencí, včetně Meta, Google a OpenAI. OpenAI již dříve uvedlo, že jakékoli předsudky zjištěné v jejich modelech AI jsou neúmyslné a nenaznačují úmyslnou funkci.
Tato studie zdůrazňuje složitou výzvu zmírňování zkreslení v modelech umělé inteligence, zejména ve věku generativních chatbotů. Tito chatboti, včetně Chatu, Google Bardu a Microsoft Bingu, jsou postaveni na rozsáhlých jazykových modelech, které extenzivně zpracovávají data z internetu. V důsledku toho mají tendenci odrážet zkreslení a názory převládající online.
Tito chatboti se navíc stali ústředními body diskusí zahrnujících politiku, technologie a sociální média. Dokonce i Chat čelil krátce po svém spuštění obvinění ze zaujatosti a z upřednostňování liberálních perspektiv. To poukazuje na širší diskusi o tom, jak technologie a platformy sociálních médií mohou ovlivňovat politické výsledky a společenskou polarizaci.
Vzhledem k tomu, že se chatboti více zakořeňují v online interakcích, jejich výstupy by mohly dále zesílit existující polarizaci pozorovanou ve společnosti. Informační krajina, stále více utvářená obsahem generovaným roboty, může nechtěně přispět k polarizační smyčce zpětné vazby.
Snahy o řešení těchto problémů pokračují. Výzkumníci aktivně zkoumají metody, jak odhalit a zmírnit předsudky v odpovědích chatbotů. Navrhovaný přístup zahrnuje další vrstvu, která identifikuje neobjektivní jazyk a nahrazuje jej neutrálními alternativami. Nicméně vzhledem k rozlehlé povaze internetu a spletité tapisérii předsudků, které zahrnuje, zůstává dosažení dokonalé neutrality nepolapitelným cílem.
Závěrem studie vrhá světlo na spletitost předsudků AI a jejich potenciální dopad na politický diskurz a rozhodování. Výzkum slouží jako připomínka toho, že zatímco technologie AI nabízí vzrušující možnosti, nese také významnou odpovědnost při zvládání nezamýšlených následků. Jak se umělá inteligence neustále vyvíjí, nalezení rovnováhy mezi technologickým pokrokem a etickými ohledy zůstane zásadní výzvou.