O Chat, o chatbot de IA avançada que vem revolucionando as pesquisas na web e simplificando as tarefas de escritório, infelizmente encontrou uma nova linha de trabalho como golpista nas redes sociais.
O botnet, conhecido como “Fox8”, foi descoberto operando em uma plataforma de rede social no início deste ano por pesquisadores da Indiana University Bloomington. A botnet, ligada a vários sites de criptomoedas, consistia em mais de 1,000 contas, muitas delas acreditando-se que estivessem usando Chat para gerar postagens e respostas nas redes sociais. O conteúdo criado por esses bots foi projetado para induzir usuários inocentes a clicar em links que levam a sites de promoção de criptomoedas.
Micah Musser, um pesquisador que estudou o potencial da desinformação impulsionada pela IA, alerta que o botnet Fox8 pode ser apenas o começo do que podemos esperar ver à medida que grandes modelos de linguagem e chatbots continuam a crescer em popularidade.
Apesar de seu vasto alcance, a botnet não utilizava o Chat de maneira altamente sofisticada. No entanto, a descoberta da botnet levantou preocupações sobre a facilidade com que chatbots avançados como o Chat podem ser explorados para fins nefastos. Teme-se que botnets mais avançadas e menos detectáveis já estejam em operação.
Filippo Menczer, professor da Universidade de Indiana em Bloomington que esteve envolvido na pesquisa, diz: “A única razão pela qual notamos esse botnet em particular é que eles eram desleixados”. Ele enfatiza que os “melhores” maus atores provavelmente evitariam os erros cometidos pelos criadores do botnet Fox8.
A OpenAI, organização por trás do Chat, ainda não se pronunciou sobre a descoberta da botnet. Sua política de uso proíbe terminantemente o uso de seus modelos de IA para golpes ou disseminação de desinformação.
Chatbots e outros chatbots avançados utilizam grandes modelos de linguagem para gerar texto em resposta a prompts. Com dados de treinamento suficientes, poder computacional e feedback de testadores humanos, esses bots podem responder de maneiras impressionantemente sofisticadas a uma variedade de entradas. No entanto, eles também têm o potencial de disseminar discurso de ódio, exibir preconceitos sociais e fabricar informações.
Uma botnet baseada em chat bem configurada seria difícil de identificar e poderia enganar usuários e manipular algoritmos de mídia social. "Ela engana tanto a plataforma quanto os usuários", diz Menczer.
Preocupações com o potencial uso indevido de tecnologias como o Chat para campanhas de desinformação não são novas. A OpenAI chegou a adiar o lançamento de um antecessor do Chat devido a esses temores.
William Wang, professor da Universidade da Califórnia, em Santa Bárbara, afirma ser crucial estudar esses usos criminosos do Chat no mundo real. Ele acredita que muitas páginas de spam agora são geradas automaticamente, tornando cada vez mais difícilcult para humanos detectarem tal material. E, com a IA melhorando continuamente, isso só vai ficar mais difícil. “A situação é bem ruim”, ele conclui.