Chat, el chatbot con inteligencia artificial avanzada que ha revolucionado las búsquedas web y agilizado las tareas de oficina, lamentablemente ha encontrado una nueva línea de trabajo como estafador en las redes sociales.
La botnet, conocida como “Fox8”, fue descubierta operando en una plataforma de red social a principios de este año por investigadores de la Universidad de Indiana en Bloomington. La botnet, vinculada a varios sitios web de criptomonedas, constaba de más de 1,000 cuentas, muchas de las cuales se creía que utilizaban Chat para generar publicaciones y respuestas en las redes sociales. El contenido creado por estos robots fue diseñado para atraer a usuarios inocentes a hacer clic en enlaces que conducen a sitios que promueven criptomonedas.
Micah Musser, un investigador que ha estudiado el potencial de la desinformación impulsada por la IA, advierte que la botnet Fox8 puede ser sólo el comienzo de lo que podemos esperar ver a medida que los grandes modelos lingüísticos y los chatbots sigan ganando popularidad.
La botnet, a pesar de su amplio alcance, no utilizaba Chat de forma sofisticada. Sin embargo, su descubrimiento ha suscitado preocupación sobre la facilidad con la que chatbots avanzados como Chat pueden explotarse con fines maliciosos. Se teme que ya existan botnets más avanzadas y menos detectables.
Filippo Menczer, profesor de la Universidad de Indiana en Bloomington que participó en la investigación, dice: "La única razón por la que notamos esta botnet en particular es que eran descuidadas". Destaca que los "mejores" malos actores probablemente evitarían los errores cometidos por los creadores de la botnet Fox8.
OpenAI, la organización detrás de Chat, aún no ha comentado sobre el descubrimiento de la botnet. Su política de uso prohíbe estrictamente el uso de sus modelos de IA para estafas o la difusión de desinformación.
Los chatbots y otros chatbots avanzados utilizan grandes modelos de lenguaje para generar texto en respuesta a indicaciones. Con suficientes datos de entrenamiento, potencia computacional y retroalimentación de evaluadores humanos, estos bots pueden responder de forma increíblemente sofisticada a diversas entradas. Sin embargo, también tienen el potencial de difundir discursos de odio, mostrar sesgos sociales y falsificar información.
Una botnet basada en chat bien configurada sería difícil de identificar y podría engañar eficazmente a los usuarios y manipular los algoritmos de las redes sociales. «Engaña tanto a la plataforma como a los usuarios», afirma Menczer.
La preocupación por el posible uso indebido de tecnologías como Chat para campañas de desinformación no es nueva. OpenAI incluso retrasó el lanzamiento de una versión anterior de Chat debido a estos temores.
William Wang, profesor de la Universidad de California en Santa Bárbara, afirma que es crucial estudiar estos usos delictivos del chat en el mundo real. Cree que muchas páginas web de spam se generan ahora automáticamente, lo que dificulta cada vez más...cult Para los humanos es difícil detectar este tipo de material. Y, con la mejora continua de la IA, será cada vez más difícil. “La situación es bastante mala”, concluye.