Une étude récente menée par des chercheurs du Université d'East Anglia Une enquête menée au Royaume-Uni a révélé un potentiel biais politique dans le Chat d'OpenAI. Cette révélation souligne les défis constants auxquels sont confrontées les entreprises d'intelligence artificielle pour contrôler le comportement de leurs robots, d'autant plus que ces derniers font désormais partie intégrante de la vie de millions d'utilisateurs à travers le monde.
Dans le cadre de cette étude, Chat a été soumis à une enquête sur les convictions politiques, ciblant les sympathisants des partis libéraux aux États-Unis, au Royaume-Uni et au Brésil. Les réponses obtenues ont ensuite été comparées à celles générées spontanément, révélant un biais politique constant et notable. Plus précisément, l'étude a mis en évidence une forte préférence pour les Démocrates aux États-Unis, Lula au Brésil et le Parti travailliste au Royaume-Uni, indiquant ainsi un biais systématique dans les réponses.
Ces résultats font écho à un nombre croissant de recherches soulignant que, malgré les efforts concertés pour contrer les biais lors de la phase de conception, les chatbots IA comme Chat absorbent inévitablement les hypothèses, les croyances et les stéréotypes présents dans le vaste bassin de données sur lesquelles ils sont formés.
Cette question devient particulièrement pertinente à mesure que les chatbots s'intègrent de plus en plus dans les routines quotidiennes. Alors que les États-Unis se préparent pour l'élection présidentielle de 2024, les chatbots assument des rôles dans la vie des gens au-delà de la simple assistance, aidant à résumer des documents, à répondre à des questions et même à contribuer à des tâches d'écriture professionnelles et personnelles. Avec des plateformes comme Google qui emploient des chatbots pour répondre directement aux demandes de recherche et aux campagnes politiques qui les utilisent pour générer du contenu, l'impact potentiel sur la perception du public et même sur les résultats des élections suscite des inquiétudes.
Alors que Chat affirme son absence d'opinions politiques et de préjugés auprès des utilisateurs, l'auteur principal de l'étude, Fabio Motoki, suggère le contraire. Les préjugés découverts pourraient éroder la confiance du public et potentiellement influencer involontairement les processus politiques.
Les principales entreprises d’IA, dont Meta, Google et OpenAI, n’ont pas encore répondu à ces conclusions. OpenAI a déjà déclaré que les biais détectés dans ses modèles d’IA n’étaient pas intentionnels et n’étaient pas le signe d’une fonctionnalité délibérée.
Cette étude souligne l'enjeu complexe que représente l'atténuation des biais dans les modèles d'IA, notamment à l'ère des chatbots génératifs. Ces chatbots, dont Chat, Bard de Google et Bing de Microsoft, reposent sur de vastes modèles de langage qui traitent en profondeur les données d'Internet. Par conséquent, ils tendent à refléter les biais et les points de vue répandus en ligne.
De plus, ces chatbots sont devenus des sujets de discussion majeurs dans les domaines de la politique, des technologies et des réseaux sociaux. Même Chat a été accusé de partialité peu après son lancement, notamment de favoriser les perspectives progressistes. Cela met en lumière le débat plus large sur l'influence des technologies et des réseaux sociaux sur les résultats politiques et la polarisation sociale.
À mesure que les chatbots s'enracinent davantage dans les interactions en ligne, leurs résultats pourraient encore amplifier la polarisation existante observée dans la société. Le paysage de l'information, de plus en plus façonné par le contenu généré par les robots, peut contribuer par inadvertance à une boucle de rétroaction de polarisation.
Les efforts pour résoudre ces problèmes sont en cours. Les chercheurs explorent activement des méthodes pour détecter et atténuer les biais dans les réponses des chatbots. Une approche proposée implique une couche supplémentaire qui identifie le langage biaisé et le remplace par des alternatives neutres. Néanmoins, étant donné la nature tentaculaire d'Internet et la tapisserie complexe de préjugés qu'il englobe, atteindre une neutralité parfaite reste un objectif insaisissable.
En conclusion, l'étude met en lumière les subtilités des biais de l'IA et leur impact potentiel sur le discours politique et la prise de décision. La recherche rappelle que si la technologie de l'IA offre des possibilités intéressantes, elle comporte également des responsabilités importantes dans la gestion des conséquences imprévues. Alors que l'IA continue d'évoluer, trouver un équilibre entre les progrès technologiques et les considérations éthiques restera un défi crucial.