En nylig undersøgelse udført af forskere fra University of East Anglia i Storbritannien har kastet lys over en potentiel politisk bias indlejret i OpenAIs Chat. Denne afsløring understreger de løbende udfordringer, som kunstig intelligens-virksomheder står over for med at kontrollere deres bots' adfærd, især i takt med at disse bots bliver en integreret del af millioner af brugeres liv verden over.
I undersøgelsen blev Chat udsat for en spørgeskemaundersøgelse om politiske overbevisninger med fokus på tilhængere af liberale partier i USA, Storbritannien og Brasilien. De indhentede svar blev derefter sammenlignet med dem, der blev genereret uden nogen opfordring, hvilket afslørede en konsekvent og bemærkelsesværdig politisk bias. Specifikt fremhævede forskningen en betydelig hældning mod Demokraterne i USA, Lula i Brasilien og Labour Party i Storbritannien, hvilket indikerer en systematisk bias i svarene.
Disse resultater afspejler en voksende mængde forskning, der påpeger, at AI-chatbots som Chat uundgåeligt absorberer antagelser, overbevisninger og stereotyper, der findes i den enorme mængde data, de er trænet på, på trods af en samordnet indsats for at modvirke bias i designfasen.
Dette problem bliver særligt relevant, da chatbots i stigende grad integreres i daglige rutiner. Mens USA forbereder sig til præsidentvalget i 2024, påtager chatbots roller i folks liv ud over simpel assistance, hjælper med at opsummere dokumenter, besvare forespørgsler og endda bidrage til professionelle og personlige skriveopgaver. Med platforme som Google, der bruger chatbots til direkte at adressere søgeforespørgsler og politiske kampagner, der bruger dem til at generere indhold, vækker den potentielle indvirkning på offentlighedens opfattelse og endda valgresultater bekymring.
Mens Chat hævder, at de mangler politiske meninger eller bias over for brugerne, antyder studiets hovedforfatter, Fabio Motoki, noget andet. De opdagede bias kan undergrave offentlighedens tillid og potentielt udøve utilsigtet indflydelse på politiske processer.
Svar fra store AI-virksomheder, herunder Meta, Google og OpenAI, er endnu ikke indhentet vedrørende disse resultater. OpenAI har tidligere udtalt, at eventuelle skævheder, der er opdaget i deres AI-modeller, er utilsigtede og ikke er udtryk for en bevidst funktion.
Denne undersøgelse understreger den komplekse udfordring med at afbøde bias i AI-modeller, især i en tidsalder med generative chatbots. Disse chatbots, herunder Chat, Googles Bard og Microsofts Bing, er bygget på omfattende sprogmodeller, der i vid udstrækning behandler data fra internettet. Derfor har de en tendens til at afspejle de bias og synspunkter, der er udbredt online.
Derudover er disse chatbots blevet omdrejningspunkter i diskussioner, der omfatter politik, teknologi og sociale medier. Selv Chat blev kort efter lanceringen konfronteret med beskyldninger om bias, med beskyldninger om at favorisere liberale perspektiver. Dette sætter fokus på den bredere samtale om, hvordan teknologi og sociale medieplatforme kan påvirke politiske resultater og samfundsmæssig polarisering.
Efterhånden som chatbots bliver mere indgroet i online-interaktioner, kan deres output yderligere forstærke den eksisterende polarisering, der observeres i samfundet. Informationslandskabet, der i stigende grad formes af bot-genereret indhold, kan utilsigtet bidrage til en feedback-loop af polarisering.
Bestræbelser på at løse disse problemer er i gang. Forskere udforsker aktivt metoder til at opdage og afbøde skævheder i chatbot-svar. En foreslået tilgang involverer et ekstra lag, der identificerer forudindtaget sprog og erstatter det med neutrale alternativer. Ikke desto mindre, i betragtning af internettets vidtstrakte karakter og det indviklede billedtæppe af skævheder, det omfatter, er opnåelse af perfekt neutralitet stadig et uhåndgribeligt mål.
Som konklusion kaster undersøgelsen lys over forviklingerne af AI-bias og deres potentielle indflydelse på politisk diskurs og beslutningstagning. Forskningen tjener som en påmindelse om, at selvom AI-teknologi tilbyder spændende muligheder, har den også et betydeligt ansvar for at håndtere utilsigtede konsekvenser. Mens kunstig intelligens fortsætter med at udvikle sig, vil det fortsat være en afgørende udfordring at finde en balance mellem teknologiske fremskridt og etiske overvejelser.