En ny studie utförd av forskare från University of East Anglia i Storbritannien har belyst en potentiell politisk partiskhet inbäddad i OpenAI:s chatt. Denna avslöjande understryker de fortsatta utmaningar som artificiell intelligens-företag står inför när det gäller att kontrollera sina bottars beteende, särskilt i takt med att dessa bottar blir en integrerad del av miljontals användares liv världen över.
I studien genomgick Chat en enkät om politiska åsikter, med fokus på anhängare av liberala partier i USA, Storbritannien och Brasilien. De erhållna svaren jämfördes sedan med de som genererades utan någon förfrågan, vilket avslöjade en konsekvent och anmärkningsvärd politisk partiskhet. Mer specifikt belyste forskningen en betydande lutning mot demokraterna i USA, Lula i Brasilien och Labourpartiet i Storbritannien, vilket indikerar en systematisk partiskhet i deras svar.
Dessa resultat återspeglar en växande mängd forskning som påpekar att, trots samordnade ansträngningar för att motverka fördomar under designfasen, absorberar AI-chattrobotar som Chat oundvikligen antaganden, övertygelser och stereotyper som finns i den stora datapoolen de tränas på.
Denna fråga blir särskilt relevant eftersom chatbots alltmer integreras i dagliga rutiner. När USA förbereder sig för presidentvalet 2024, tar chatbotar roller i människors liv utöver enkel hjälp, hjälper till att sammanfatta dokument, svara på frågor och till och med bidra till professionella och personliga skrivuppgifter. Med plattformar som Google som använder chatbotar för att direkt hantera sökfrågor och politiska kampanjer som använder dem för att skapa innehåll, väcker den potentiella inverkan på allmänhetens uppfattning och till och med valresultat oro.
Medan Chat hävdar att de inte har några politiska åsikter eller partiskheter gentemot användarna, menar studiens huvudförfattare, Fabio Motoki, något annat. De upptäckta partiskheterna kan undergräva allmänhetens förtroende och potentiellt utöva oavsiktligt inflytande på politiska processer.
Svar från stora AI-företag, inklusive Meta, Google och OpenAI, har ännu inte erhållits angående dessa resultat. OpenAI har tidigare sagt att eventuella fördomar som upptäcks i deras AI-modeller är oavsiktliga och inte indikerar en avsiktlig funktion.
Denna studie understryker den komplexa utmaningen att mildra fördomar i AI-modeller, särskilt i en tidsålder av generativa chattrobotar. Dessa chattrobotar, inklusive Chat, Googles Bard och Microsofts Bing, är byggda på omfattande språkmodeller som i stor utsträckning bearbetar data från internet. Följaktligen tenderar de att spegla de fördomar och synpunkter som är rådande online.
Dessutom har dessa chatbotar blivit fokuspunkter i diskussioner som omfattar politik, teknologi och sociala medier. Även Chat ställdes inför anklagelser om partiskhet kort efter lanseringen, med anklagelser om att gynna liberala perspektiv. Detta belyser den bredare diskussionen om hur teknologi och sociala medieplattformar kan påverka politiska utfall och samhällspolarisering.
När chatbots blir mer inarbetade i onlineinteraktioner, kan deras resultat ytterligare förstärka den befintliga polariseringen som observeras i samhället. Informationslandskapet, allt mer format av bot-genererat innehåll, kan oavsiktligt bidra till en återkoppling av polarisering.
Ansträngningar för att lösa dessa problem pågår. Forskare undersöker aktivt metoder för att upptäcka och mildra fördomar i chatbotsvar. Ett föreslaget tillvägagångssätt involverar ett ytterligare lager som identifierar partiskt språk och ersätter det med neutrala alternativ. Icke desto mindre, med tanke på internets vidsträckta natur och den invecklade tapeten av fördomar som det omfattar, är det fortfarande ett svårfångat mål att uppnå perfekt neutralitet.
Sammanfattningsvis belyser studien krångligheterna med AI-fördomar och deras potentiella inverkan på politisk diskurs och beslutsfattande. Forskningen tjänar som en påminnelse om att även om AI-teknik erbjuder spännande möjligheter, har den också ett betydande ansvar för att hantera oavsiktliga konsekvenser. När AI fortsätter att utvecklas kommer det att förbli en avgörande utmaning att hitta en balans mellan tekniska framsteg och etiska överväganden.