In un esperimento rivoluzionario, i ricercatori IBM sono riusciti a manipolare i chatbot di intelligenza artificiale (AI) per fornire consigli potenzialmente dannosi e divulgare informazioni sensibili. Questa impresa è stata compiuta "ipnotizzando" grandi modelli linguistici (LLM) come Chat di OpenAI and Bardo di Google, sollevando seri interrogativi sulla sicurezza e sulle implicazioni etiche di questi sistemi di intelligenza artificiale.
Storicamente, i chatbot con intelligenza artificiale sono noti per avere "allucinazioni" o fornire informazioni errate. Tuttavia, questa nuova ricerca dimostra che possono anche essere manipolati per fornire consigli deliberatamente falsi o addirittura dannosi. Il team IBM ha raggiunto questo obiettivo spingendo gli LLM ad adattare le loro risposte secondo specifiche regole del "gioco", "ipnotizzando" di fatto i chatbot.
I "giochi" a più livelli prevedevano di chiedere ai modelli linguistici di generare risposte errate con il pretesto di dimostrarne l'equità e l'eticità. Chenta Lee, uno dei ricercatori IBM, ha dichiarato in un post sul blog: "Il nostro esperimento mostra che è possibile controllare un LLM, facendogli fornire una cattiva guida agli utenti, senza che la manipolazione dei dati sia un requisito."
Questa manipolazione ha portato gli LLM a generare codice dannoso, divulgare dati finanziari riservati e persino consigliare agli automobilisti di ignorare i semafori rossi. In un caso, Chat ha falsamente informato un ricercatore che l'Internal Revenue Service (IRS) degli Stati Uniti avrebbe potuto richiedere un deposito per emettere un rimborso fiscale, una tecnica truffaldina piuttosto comune.
I ricercatori hanno anche utilizzato le regole del “gioco” per garantire che gli utenti non potessero rilevare lo stato “ipnotizzato” del chatbot. Se un utente uscisse con successo dal "gioco", il sistema ne avvierebbe semplicemente uno nuovo, intrappolando l'utente in un ciclo infinito.
Mentre i chatbot si limitavano a rispondere alle richieste di questo esperimento, i ricercatori avvertono che questa capacità di manipolare e “ipnotizzare” gli LLM potrebbe essere utilizzata in modo improprio, soprattutto data la diffusa adozione di modelli di intelligenza artificiale. Hanno anche notato che gli individui non hanno più bisogno della conoscenza della codifica per manipolare questi programmi; può essere sufficiente un semplice messaggio di testo.
Lee ha concluso: “Sebbene il rischio posto dall'ipnosi sia attualmente basso, è importante notare che gli LLM rappresentano una superficie di attacco completamente nuova che sicuramente si evolverà. C’è ancora molto da esplorare dal punto di vista della sicurezza e, di conseguenza, è necessario determinare come mitigare efficacemente i rischi per la sicurezza che gli LLM potrebbero introdurre per i consumatori e le imprese”.
Questo sviluppo sottolinea la necessità fondamentale di solide misure di sicurezza e considerazioni etiche nel campo in rapida evoluzione dell’intelligenza artificiale. Poiché l’intelligenza artificiale continua a permeare vari settori, diventa sempre più importante comprendere e mitigare i potenziali rischi.