Chat, il chatbot avanzato dotato di intelligenza artificiale che ha rivoluzionato le ricerche sul web e semplificato le attività d'ufficio, ha purtroppo trovato un nuovo lavoro come truffatore sui social media.
La botnet, nota come "Fox8", è stata scoperta all'inizio di quest'anno su una piattaforma di social networking dai ricercatori dell'Università dell'Indiana Bloomington. La botnet, collegata a diversi siti Web di criptovaluta, consisteva in oltre 1,000 account, molti credevano di utilizzare Chat per generare post e risposte sui social media. Il contenuto creato da questi bot è stato progettato per invogliare utenti innocenti a fare clic su collegamenti che portano a siti che promuovono criptovalute.
Micah Musser, un ricercatore che ha studiato il potenziale della disinformazione guidata dall'intelligenza artificiale, avverte che la botnet Fox8 potrebbe essere solo l'inizio di ciò che possiamo aspettarci di vedere mentre i modelli di linguaggi di grandi dimensioni e i chatbot continuano a crescere in popolarità.
Nonostante la sua vasta portata, la botnet non utilizzava Chat in modo particolarmente sofisticato. Ciononostante, la sua scoperta ha sollevato preoccupazioni sulla facilità con cui chatbot avanzati come Chat possano essere sfruttati per scopi illeciti. Si teme che botnet più avanzate e meno rilevabili possano già essere operative.
Filippo Menczer, professore presso l'Indiana University Bloomington che è stato coinvolto nella ricerca, afferma: "L'unico motivo per cui abbiamo notato questa particolare botnet è che erano sciatti". Sottolinea che i cattivi attori "migliori" probabilmente eviterebbero gli errori commessi dai creatori della botnet Fox8.
OpenAI, l'organizzazione dietro Chat, non ha ancora rilasciato dichiarazioni sulla scoperta della botnet. La sua politica di utilizzo proibisce severamente l'uso dei suoi modelli di intelligenza artificiale per truffe o diffusione di disinformazione.
Chat e altri chatbot avanzati utilizzano modelli linguistici di grandi dimensioni per generare testo in risposta a richieste. Con dati di addestramento sufficienti, potenza di calcolo e feedback da parte di tester umani, questi bot possono rispondere in modo incredibilmente sofisticato a una varietà di input. Tuttavia, hanno anche il potenziale per diffondere incitamento all'odio, mostrare pregiudizi sociali e fabbricare informazioni.
Una botnet basata su chat ben configurata sarebbe difficile da identificare e potrebbe ingannare efficacemente gli utenti e manipolare gli algoritmi dei social media. "Inganna sia la piattaforma che gli utenti", afferma Menczer.
Le preoccupazioni circa il potenziale uso improprio di tecnologie come Chat per campagne di disinformazione non sono una novità. OpenAI ha persino ritardato il rilascio di un predecessore di Chat a causa di tali timori.
William Wang, professore presso l'Università della California, Santa Barbara, afferma che è fondamentale studiare questi usi criminali della chat nel mondo reale. Ritiene che molte pagine web di spam siano ora generate automaticamente, rendendo sempre più difficilecult per gli umani individuare tale materiale. E, con l'intelligenza artificiale in continuo miglioramento, diventerà solo più difficile. "La situazione è piuttosto brutta", conclude.