Um estudo recente conduzido por pesquisadores da Universidade de East Anglia no Reino Unido lançou luz sobre um possível viés político embutido no Chat da OpenAI. Essa revelação ressalta os desafios atuais enfrentados por empresas de inteligência artificial para controlar o comportamento de seus bots, especialmente agora que esses bots se tornaram parte integrante da vida de milhões de usuários em todo o mundo.
No estudo, Chat foi submetido a um questionário sobre crenças políticas, com foco em apoiadores de partidos liberais nos Estados Unidos, Reino Unido e Brasil. As respostas obtidas foram então comparadas com aquelas geradas sem qualquer solicitação, revelando um viés político consistente e notável. Especificamente, a pesquisa destacou uma inclinação significativa para os democratas nos EUA, Lula no Brasil e o Partido Trabalhista no Reino Unido, indicando, assim, um viés sistemático em suas respostas.
Essas descobertas ecoam um crescente corpo de pesquisas que apontam que, apesar dos esforços concentrados para neutralizar preconceitos durante a fase de design, chatbots de IA como o Chat inevitavelmente absorvem suposições, crenças e estereótipos presentes no vasto conjunto de dados com os quais são treinados.
Esta questão torna-se especialmente pertinente à medida que os chatbots se integram cada vez mais nas rotinas diárias. À medida que os Estados Unidos se preparam para as eleições presidenciais de 2024, os chatbots assumem papéis na vida das pessoas além da simples assistência, auxiliando no resumo de documentos, respondendo a dúvidas e até mesmo contribuindo em tarefas de redação profissional e pessoal. Com plataformas como o Google empregando chatbots para responder diretamente a consultas de pesquisa e campanhas políticas utilizando-os para gerar conteúdo, o impacto potencial na percepção do público e até mesmo nos resultados das eleições gera preocupações.
Embora o Chat afirme a ausência de opiniões políticas ou preconceitos em relação aos usuários, o principal autor do estudo, Fabio Motoki, sugere o contrário. Os preconceitos descobertos podem minar a confiança do público e potencialmente exercer influência indesejada nos processos políticos.
Respostas de grandes empresas de IA, incluindo Meta, Google e OpenAI, ainda não foram obtidas sobre essas descobertas. A OpenAI declarou anteriormente que quaisquer vieses detectados em seus modelos de IA são não intencionais e não indicam um recurso deliberado.
Este estudo destaca o complexo desafio de mitigar vieses em modelos de IA, especialmente na era dos chatbots generativos. Esses chatbots, incluindo o Chat, o Bard do Google e o Bing da Microsoft, são construídos com base em vastos modelos de linguagem que processam extensivamente dados da internet. Consequentemente, eles tendem a espelhar os vieses e pontos de vista predominantes online.
Além disso, esses chatbots se tornaram pontos focais em discussões que abrangem política, tecnologia e mídias sociais. Até mesmo o Chat enfrentou alegações de parcialidade logo após seu lançamento, com acusações de favorecer perspectivas liberais. Isso traz à tona o debate mais amplo sobre como a tecnologia e as plataformas de mídia social podem influenciar resultados políticos e a polarização social.
À medida que os chatbots se tornam mais arraigados nas interações online, seus resultados podem ampliar ainda mais a polarização existente observada na sociedade. O cenário de informações, cada vez mais moldado por conteúdo gerado por bots, pode inadvertidamente contribuir para um ciclo de feedback de polarização.
Esforços para resolver esses problemas estão em andamento. Os pesquisadores estão explorando ativamente métodos para detectar e mitigar vieses nas respostas do chatbot. Uma abordagem proposta envolve uma camada adicional que identifica linguagem tendenciosa e a substitui por alternativas neutras. No entanto, dada a natureza expansiva da internet e a intrincada tapeçaria de preconceitos que ela abrange, alcançar a neutralidade perfeita continua sendo uma meta ilusória.
Em conclusão, o estudo lança luz sobre as complexidades dos vieses da IA e seu impacto potencial no discurso político e na tomada de decisões. A pesquisa serve como um lembrete de que, embora a tecnologia de IA ofereça possibilidades empolgantes, ela também carrega responsabilidades significativas no gerenciamento de consequências não intencionais. À medida que a IA continua a evoluir, encontrar um equilíbrio entre o avanço tecnológico e as considerações éticas continuará sendo um desafio crucial.