Un studiu recent realizat de cercetători de la Universitatea din East Anglia din Marea Britanie a scos la iveală o potențială părtinire politică încorporată în Chat-ul OpenAI. Această dezvăluire subliniază provocările continue cu care se confruntă companiile de inteligență artificială în controlul comportamentului roboților lor, în special pe măsură ce acești roboți devin parte integrantă a vieții a milioane de utilizatori din întreaga lume.
În cadrul studiului, Chat a fost supus unui sondaj privind convingerile politice, concentrându-se pe susținătorii partidelor liberale din Statele Unite, Regatul Unit și Brazilia. Răspunsurile obținute au fost apoi comparate cu cele generate fără nicio solicitare, dezvăluind o părtinire politică constantă și notabilă. Mai exact, cercetarea a evidențiat o înclinație semnificativă către democrați în SUA, Lula în Brazilia și Partidul Laburist în Regatul Unit, indicând astfel o părtinire sistematică în răspunsurile sale.
Aceste descoperiri reflectă un volum tot mai mare de cercetări care subliniază faptul că, în ciuda eforturilor concertate de contracarare a prejudecăților în faza de proiectare, chatboții cu inteligență artificială, precum Chat, absorb inevitabil presupuneri, credințe și stereotipuri prezente în vasta cantitate de date cu care sunt antrenați.
Această problemă devine deosebit de relevantă pe măsură ce chatboții se integrează din ce în ce mai mult în rutinele zilnice. Pe măsură ce Statele Unite se pregătesc pentru alegerile prezidențiale din 2024, chatboții își asumă roluri în viața oamenilor dincolo de simpla asistență, ajutând la rezumarea documentelor, răspunzând la întrebări și chiar contribuind la sarcinile profesionale și personale de scriere. Cu platforme precum Google care utilizează chatbot-uri pentru a aborda în mod direct întrebările de căutare și campanii politice care le folosesc pentru a genera conținut, impactul potențial asupra percepției publice și chiar asupra rezultatelor alegerilor ridică îngrijorări.
Deși Chat afirmă că nu are opinii politice sau prejudecăți față de utilizatori, autorul principal al studiului, Fabio Motoki, sugerează contrariul. Prejudecățile descoperite ar putea eroda încrederea publicului și ar putea exercita o influență neintenționată asupra proceselor politice.
Răspunsurile de la marile companii AI, inclusiv Meta, Google și OpenAI, nu au fost încă obținute cu privire la aceste constatări. OpenAI a declarat anterior că orice părtinire detectată în modelele lor AI sunt neintenționate și nu indică o caracteristică deliberată.
Acest studiu subliniază provocarea complexă a atenuării prejudecăților în modelele de inteligență artificială, în special în era chatboților generativi. Acești chatboți, inclusiv Chat, Bard de la Google și Bing de la Microsoft, sunt construiți pe modele lingvistice vaste care procesează extensiv date de pe internet. Prin urmare, ei tind să reflecte prejudecățile și punctele de vedere predominante online.
Mai mult, acești chatboți au devenit puncte focale în discuțiile despre politică, tehnologie și rețele sociale. Chiar și Chat s-a confruntat cu acuzații de părtinire la scurt timp după lansarea sa, fiind acuzat că favoriza perspective liberale. Acest lucru scoate la iveală conversația mai amplă despre modul în care tehnologia și platformele de socializare pot influența rezultatele politice și polarizarea societală.
Pe măsură ce chatboții devin mai înrădăcinați în interacțiunile online, rezultatele lor ar putea amplifica și mai mult polarizarea existentă observată în societate. Peisajul informațional, din ce în ce mai modelat de conținutul generat de bot, poate contribui, din neatenție, la o buclă de feedback de polarizare.
Eforturile de abordare a acestor probleme sunt în desfășurare. Cercetătorii explorează în mod activ metode pentru a detecta și a atenua părtinirile în răspunsurile chatbot. O abordare propusă implică un strat suplimentar care identifică limbajul părtinitor și îl înlocuiește cu alternative neutre. Cu toate acestea, având în vedere natura extinsă a internetului și tapiseria complicată de părtiniri pe care le cuprinde, atingerea neutralității perfecte rămâne un obiectiv evaziv.
În concluzie, studiul aruncă lumină asupra complexității prejudecăților AI și asupra impactului lor potențial asupra discursului politic și luării deciziilor. Cercetarea servește drept reamintire că, deși tehnologia AI oferă posibilități interesante, are și responsabilități semnificative în gestionarea consecințelor neintenționate. Pe măsură ce IA continuă să evolueze, găsirea unui echilibru între progresul tehnologic și considerentele etice va rămâne o provocare crucială.