Een recent onderzoek uitgevoerd door onderzoekers van de Universiteit van East Anglia in het Verenigd Koninkrijk heeft een mogelijke politieke vooringenomenheid in OpenAI's Chat aan het licht gebracht. Deze onthulling onderstreept de voortdurende uitdagingen waarmee AI-bedrijven worden geconfronteerd bij het controleren van het gedrag van hun bots, vooral nu deze bots een integraal onderdeel worden van het leven van miljoenen gebruikers wereldwijd.
In het onderzoek werd Chat onderworpen aan een enquête over politieke overtuigingen, met een focus op aanhangers van liberale partijen in de Verenigde Staten, het Verenigd Koninkrijk en Brazilië. De verkregen antwoorden werden vervolgens vergeleken met de antwoorden die spontaan waren gegenereerd, wat een consistente en opvallende politieke bias aan het licht bracht. Het onderzoek bracht met name een significante voorkeur voor de Democraten in de VS, Lula in Brazilië en de Labour Party in het Verenigd Koninkrijk aan het licht, wat duidde op een systematische bias in de antwoorden.
Deze bevindingen sluiten aan bij een groeiend aantal onderzoeken waaruit blijkt dat AI-chatbots zoals Chat, ondanks gezamenlijke inspanningen om vooroordelen tijdens de ontwerpfase tegen te gaan, onvermijdelijk aannames, overtuigingen en stereotypen overnemen die aanwezig zijn in de enorme hoeveelheid gegevens waarmee ze zijn getraind.
Dit probleem wordt vooral relevant naarmate chatbots steeds meer integreren in dagelijkse routines. Terwijl de Verenigde Staten zich opmaken voor de presidentsverkiezingen van 2024, spelen chatbots een rol in het leven van mensen die verder gaat dan eenvoudige hulp, ze helpen bij het samenvatten van documenten, het beantwoorden van vragen en zelfs bij professionele en persoonlijke schrijftaken. Met platforms zoals Google die chatbots gebruiken om zoekvragen rechtstreeks te behandelen en politieke campagnes die ze gebruiken voor het genereren van inhoud, roept de potentiële impact op de publieke perceptie en zelfs verkiezingsuitslagen zorgen op.
Hoewel Chat beweert dat er geen politieke meningen of vooroordelen zijn richting gebruikers, suggereert de hoofdauteur van de studie, Fabio Motoki, het tegendeel. De ontdekte vooroordelen zouden het publieke vertrouwen kunnen ondermijnen en mogelijk onbedoelde invloed kunnen uitoefenen op politieke processen.
Reacties van grote AI-bedrijven, waaronder Meta, Google en OpenAI, moeten nog worden verkregen met betrekking tot deze bevindingen. OpenAI heeft eerder verklaard dat alle vooroordelen die in hun AI-modellen zijn gedetecteerd, onbedoeld zijn en niet duiden op een opzettelijke eigenschap.
Deze studie onderstreept de complexe uitdaging om vooroordelen in AI-modellen te verminderen, vooral in het tijdperk van generatieve chatbots. Deze chatbots, waaronder Chat, Google's Bard en Microsoft's Bing, zijn gebaseerd op uitgebreide taalmodellen die uitgebreid data van het internet verwerken. Daardoor weerspiegelen ze vaak de vooroordelen en standpunten die online heersen.
Bovendien zijn deze chatbots centrale gespreksonderwerpen geworden in discussies over politiek, technologie en sociale media. Zelfs Chat kreeg kort na de lancering te maken met beschuldigingen van partijdigheid, met name de bevoordeling van liberale perspectieven. Dit brengt de bredere discussie over hoe technologie en socialemediaplatforms politieke uitkomsten en maatschappelijke polarisatie kunnen beïnvloeden, aan het licht.
Naarmate chatbots meer ingeburgerd raken in online interacties, kunnen hun outputs de bestaande polarisatie in de samenleving verder versterken. Het informatielandschap, dat steeds meer wordt gevormd door door bots gegenereerde inhoud, kan onbedoeld bijdragen aan een terugkoppeling van polarisatie.
Er worden inspanningen geleverd om deze problemen aan te pakken. Onderzoekers onderzoeken actief methoden om vooroordelen in chatbotreacties te detecteren en te verminderen. Een voorgestelde aanpak omvat een extra laag die bevooroordeeld taalgebruik identificeert en vervangt door neutrale alternatieven. Niettemin, gezien de uitgestrekte aard van het internet en het ingewikkelde tapijt van vooroordelen dat het omvat, blijft het bereiken van perfecte neutraliteit een ongrijpbaar doel.
Concluderend werpt de studie licht op de fijne kneepjes van AI-vooroordelen en hun potentiële impact op het politieke discours en de besluitvorming. Het onderzoek herinnert eraan dat hoewel AI-technologie opwindende mogelijkheden biedt, het ook aanzienlijke verantwoordelijkheden met zich meebrengt bij het beheersen van onbedoelde gevolgen. Terwijl AI blijft evolueren, zal het vinden van een balans tussen technologische vooruitgang en ethische overwegingen een cruciale uitdaging blijven.