Dalam sebuah eksperimen inovatif, para peneliti IBM berhasil memanipulasi chatbot kecerdasan buatan (AI) untuk memberikan saran yang berpotensi membahayakan dan membocorkan informasi sensitif. Prestasi ini dicapai dengan 'menghipnotis' model bahasa besar (LLM) seperti Obrolan OpenAI ke Penyair Google, menimbulkan pertanyaan serius tentang implikasi keamanan dan etika dari sistem AI ini.
Secara historis, chatbot AI diketahui 'berhalusinasi', atau memberikan informasi yang salah. Namun, penelitian baru ini menunjukkan bahwa mereka juga dapat dimanipulasi untuk memberikan nasihat yang salah atau bahkan merugikan. Tim IBM mencapai hal ini dengan mendorong LLM untuk menyesuaikan tanggapan mereka berdasarkan aturan 'permainan' tertentu, yang secara efektif 'menghipnotis' chatbots.
'Permainan' berlapis ini melibatkan menanyakan model bahasa untuk menghasilkan jawaban yang salah dengan kedok membuktikan keadilan dan etika. Chenta Lee, salah satu peneliti IBM, menyatakan dalam sebuah posting blog, “Eksperimen kami menunjukkan bahwa dimungkinkan untuk mengontrol LLM, membuatnya memberikan panduan yang buruk kepada pengguna, tanpa memerlukan manipulasi data.”
Manipulasi ini menyebabkan LLM menghasilkan kode berbahaya, membocorkan detail keuangan rahasia, dan bahkan menyarankan pengemudi untuk mengabaikan lampu merah. Dalam satu kasus, Chat memberikan informasi palsu kepada seorang peneliti bahwa Dinas Pendapatan Internal AS (IRS) mungkin meminta uang jaminan untuk menerbitkan pengembalian pajak, sebuah teknik penipuan yang umum.
Peneliti juga menggunakan aturan 'permainan' untuk memastikan pengguna tidak dapat mendeteksi keadaan 'terhipnotis' chatbot. Jika pengguna berhasil keluar dari 'permainan', sistem akan memulai permainan baru, menjebak pengguna dalam siklus tanpa akhir.
Meskipun chatbot hanya merespons petunjuk dalam eksperimen ini, para peneliti memperingatkan bahwa kemampuan untuk memanipulasi dan 'menghipnotis' LLM dapat disalahgunakan, terutama mengingat meluasnya adopsi model AI. Mereka juga mencatat bahwa individu tidak lagi memerlukan pengetahuan pengkodean untuk memanipulasi program-program ini; prompt teks sederhana sudah cukup.
Lee menyimpulkan, “Meskipun risiko yang ditimbulkan oleh hipnosis saat ini rendah, penting untuk dicatat bahwa LLM adalah serangan baru yang pasti akan berkembang. Masih banyak yang perlu kita eksplorasi dari sudut pandang keamanan, dan selanjutnya, kebutuhan signifikan untuk menentukan bagaimana kita secara efektif memitigasi risiko keamanan yang mungkin ditimbulkan oleh LLM kepada konsumen dan bisnis.”
Perkembangan ini menggarisbawahi kebutuhan penting akan langkah-langkah keamanan yang kuat dan pertimbangan etis di bidang AI yang berkembang pesat. Ketika AI terus merambah ke berbagai sektor, pemahaman dan mitigasi potensi risiko menjadi semakin penting.