Un recente studio condotto dai ricercatori del University of East Anglia nel Regno Unito ha fatto luce su un potenziale pregiudizio politico insito nella chat di OpenAI. Questa rivelazione sottolinea le continue sfide che le aziende di intelligenza artificiale devono affrontare nel controllo del comportamento dei loro bot, soprattutto ora che questi stanno diventando parte integrante della vita di milioni di utenti in tutto il mondo.
Nello studio, Chat è stato sottoposto a un sondaggio sulle convinzioni politiche, con particolare attenzione ai sostenitori dei partiti liberali negli Stati Uniti, nel Regno Unito e in Brasile. Le risposte ottenute sono state poi confrontate con quelle generate spontaneamente, rivelando una costante e notevole distorsione politica. Nello specifico, la ricerca ha evidenziato una significativa propensione per i Democratici negli Stati Uniti, Lula in Brasile e il Partito Laburista nel Regno Unito, indicando così una distorsione sistematica nelle risposte.
Questi risultati rispecchiano un crescente numero di ricerche che sottolineano che, nonostante gli sforzi concertati per contrastare i pregiudizi durante la fase di progettazione, i chatbot AI come Chat assorbono inevitabilmente presupposti, convinzioni e stereotipi presenti nel vasto insieme di dati su cui vengono addestrati.
Questo problema diventa particolarmente pertinente poiché i chatbot si integrano sempre più nelle routine quotidiane. Mentre gli Stati Uniti si preparano per le elezioni presidenziali del 2024, i chatbot stanno assumendo ruoli nella vita delle persone che vanno oltre la semplice assistenza, aiutando a riassumere documenti, rispondendo a domande e persino contribuendo ad attività di scrittura professionali e personali. Con piattaforme come Google che utilizzano i chatbot per rispondere direttamente alle richieste di ricerca e alle campagne politiche che li utilizzano per generare contenuti, il potenziale impatto sulla percezione pubblica e persino sui risultati delle elezioni solleva preoccupazioni.
Sebbene Chat affermi di non esprimere opinioni politiche o pregiudizi nei confronti degli utenti, l'autore principale dello studio, Fabio Motoki, suggerisce il contrario. I pregiudizi scoperti potrebbero erodere la fiducia del pubblico e potenzialmente esercitare un'influenza indesiderata sui processi politici.
Non sono ancora state ottenute risposte da parte delle principali aziende di intelligenza artificiale, tra cui Meta, Google e OpenAI, in merito a queste scoperte. OpenAI ha precedentemente affermato che eventuali bias rilevati nei loro modelli di intelligenza artificiale sono involontari e non indicativi di una caratteristica deliberata.
Questo studio sottolinea la complessa sfida di mitigare i bias nei modelli di intelligenza artificiale, soprattutto nell'era dei chatbot generativi. Questi chatbot, tra cui Chat, Bard di Google e Bing di Microsoft, si basano su modelli linguistici estesi che elaborano ampiamente i dati provenienti da Internet. Di conseguenza, tendono a rispecchiare i bias e i punti di vista prevalenti online.
Inoltre, questi chatbot sono diventati punti focali nelle discussioni che abbracciano politica, tecnologia e social media. Anche Chat ha dovuto affrontare accuse di parzialità poco dopo il suo lancio, con l'accusa di favorire prospettive progressiste. Questo fa emergere il dibattito più ampio su come la tecnologia e le piattaforme dei social media possano influenzare i risultati politici e la polarizzazione sociale.
Man mano che i chatbot diventano più radicati nelle interazioni online, i loro risultati potrebbero amplificare ulteriormente la polarizzazione esistente osservata nella società. Il panorama delle informazioni, sempre più modellato dai contenuti generati dai bot, può inavvertitamente contribuire a un circolo vizioso di polarizzazione.
Gli sforzi per affrontare questi problemi sono in corso. I ricercatori stanno attivamente esplorando metodi per rilevare e mitigare i pregiudizi nelle risposte dei chatbot. Un approccio proposto prevede un livello aggiuntivo che identifica il linguaggio distorto e lo sostituisce con alternative neutre. Tuttavia, data la natura tentacolare di Internet e l'intricato arazzo di pregiudizi che racchiude, il raggiungimento della perfetta neutralità rimane un obiettivo sfuggente.
In conclusione, lo studio fa luce sulla complessità dei pregiudizi dell'IA e sul loro potenziale impatto sul discorso politico e sul processo decisionale. La ricerca serve a ricordare che mentre la tecnologia AI offre possibilità entusiasmanti, comporta anche responsabilità significative nella gestione delle conseguenze indesiderate. Mentre l'IA continua ad evolversi, trovare un equilibrio tra progresso tecnologico e considerazioni etiche rimarrà una sfida cruciale.