En fersk studie utført av forskere fra University of East Anglia i Storbritannia har belyst en potensiell politisk skjevhet innebygd i OpenAIs Chat. Denne avsløringen understreker de pågående utfordringene kunstig intelligens-selskaper står overfor når det gjelder å kontrollere oppførselen til robotene sine, spesielt ettersom disse robotene blir en integrert del av livene til millioner av brukere over hele verden.
I studien ble Chat utsatt for en spørreundersøkelse om politiske overbevisninger, med fokus på tilhengere av liberale partier i USA, Storbritannia og Brasil. Svarene som ble innhentet ble deretter sammenlignet med de som ble generert uten noen oppfordring, noe som avdekket en konsekvent og bemerkelsesverdig politisk skjevhet. Mer spesifikt fremhevet forskningen en betydelig tilbøyelighet mot demokratene i USA, Lula i Brasil og Labour Party i Storbritannia, noe som indikerer en systematisk skjevhet i svarene.
Disse funnene gjenspeiler en økende mengde forskning som peker på at til tross for samordnede anstrengelser for å motvirke skjevheter i designfasen, absorberer AI-chatboter som Chat uunngåelig antagelser, oppfatninger og stereotypier som finnes i den enorme mengden data de er trent på.
Dette problemet blir spesielt relevant ettersom chatbots i økende grad integreres i daglige rutiner. Mens USA forbereder seg på presidentvalget i 2024, påtar chatbots roller i folks liv utover enkel assistanse, hjelper til med å oppsummere dokumenter, svare på spørsmål og til og med bidra til profesjonelle og personlige skriveoppgaver. Med plattformer som Google som bruker chatboter for å adressere søkeforespørsler direkte og politiske kampanjer som bruker dem til å generere innhold, skaper den potensielle innvirkningen på offentlig oppfatning og til og med valgresultater bekymring.
Mens Chat hevder at de mangler politiske meninger eller skjevheter overfor brukerne, antyder studiens hovedforfatter, Fabio Motoki, noe annet. De oppdagede skjevhetene kan svekke offentlig tillit og potensielt utøve utilsiktet innflytelse på politiske prosesser.
Svar fra store AI-selskaper, inkludert Meta, Google og OpenAI, er ennå ikke innhentet angående disse funnene. OpenAI har tidligere uttalt at eventuelle skjevheter oppdaget i deres AI-modeller er utilsiktede og ikke indikerer en bevisst funksjon.
Denne studien understreker den kompliserte utfordringen med å redusere skjevheter i AI-modeller, spesielt i en tidsalder med generative chatboter. Disse chatbotene, inkludert Chat, Googles Bard og Microsofts Bing, er bygget på omfattende språkmodeller som i stor grad behandler data fra internett. Følgelig har de en tendens til å speile skjevhetene og synspunktene som er utbredt på nettet.
Dessuten har disse chatbotene blitt fokuspunkter i diskusjoner som omfatter politikk, teknologi og sosiale medier. Selv Chat møtte anklager om skjevhet kort tid etter lanseringen, med anklager om å favorisere liberale perspektiver. Dette belyser den bredere samtalen om hvordan teknologi og sosiale medieplattformer kan påvirke politiske utfall og samfunnspolarisering.
Etter hvert som chatbots blir mer inngrodd i online-interaksjoner, kan utgangene deres ytterligere forsterke den eksisterende polariseringen som er observert i samfunnet. Informasjonslandskapet, i økende grad formet av bot-generert innhold, kan utilsiktet bidra til en tilbakemeldingssløyfe av polarisering.
Arbeidet med å løse disse problemene pågår. Forskere utforsker aktivt metoder for å oppdage og redusere skjevheter i chatbot-svar. En foreslått tilnærming innebærer et ekstra lag som identifiserer partisk språk og erstatter det med nøytrale alternativer. Ikke desto mindre, gitt internetts vidstrakte natur og det intrikate teppet av skjevheter det omfatter, er det fortsatt et unnvikende mål å oppnå perfekt nøytralitet.
Avslutningsvis kaster studien lys over vanskelighetene ved AI-skjevheter og deres potensielle innvirkning på politisk diskurs og beslutningstaking. Forskningen tjener som en påminnelse om at selv om AI-teknologi tilbyr spennende muligheter, har den også betydelig ansvar for å håndtere utilsiktede konsekvenser. Ettersom AI fortsetter å utvikle seg, vil det fortsatt være en avgjørende utfordring å finne en balanse mellom teknologisk fremskritt og etiske hensyn.