Chat, chatbot AI canggih yang telah merevolusi pencarian web dan menyederhanakan tugas-tugas kantor, sayangnya telah menemukan pekerjaan baru sebagai penipu media sosial.
Botnet, yang dikenal sebagai “Fox8”, ditemukan beroperasi pada platform jejaring sosial awal tahun ini oleh para peneliti dari Indiana University Bloomington. Botnet, yang ditautkan ke beberapa situs mata uang kripto, terdiri dari lebih dari 1,000 akun, yang diyakini banyak digunakan Obrolan untuk menghasilkan posting dan tanggapan media sosial. Konten yang dibuat oleh bot ini dirancang untuk memikat pengguna yang tidak bersalah agar mengklik tautan yang mengarah ke situs yang mempromosikan cryptocurrency.
Micah Musser, seorang peneliti yang telah mempelajari potensi disinformasi yang didorong oleh AI, memperingatkan bahwa botnet Fox8 mungkin hanyalah permulaan dari apa yang kita harapkan akan terjadi ketika model bahasa besar dan chatbots terus meningkat popularitasnya.
Botnet tersebut, meskipun jangkauannya luas, tidak memanfaatkan Chat dengan cara yang sangat canggih. Meskipun demikian, penemuan botnet ini telah menimbulkan kekhawatiran tentang betapa mudahnya chatbot canggih seperti Chat dieksploitasi untuk tujuan jahat. Dikhawatirkan botnet yang lebih canggih dan kurang terdeteksi mungkin sudah beroperasi.
Filippo Menczer, seorang profesor di Indiana University Bloomington yang terlibat dalam penelitian ini, mengatakan, “Satu-satunya alasan kami memperhatikan botnet ini adalah karena mereka ceroboh.” Dia menekankan bahwa pelaku kejahatan yang 'lebih baik' kemungkinan besar akan menghindari kesalahan yang dilakukan oleh pembuat botnet Fox8.
OpenAI, organisasi di balik Chat, belum berkomentar mengenai penemuan botnet tersebut. Kebijakan penggunaan mereka secara tegas melarang penggunaan model AI mereka untuk penipuan atau penyebaran disinformasi.
Chatbot dan chatbot canggih lainnya menggunakan model bahasa yang besar untuk menghasilkan teks sebagai respons terhadap perintah. Dengan data pelatihan yang memadai, daya komputasi, dan umpan balik dari penguji manusia, bot ini dapat merespons berbagai masukan dengan cara yang sangat canggih. Namun, mereka juga berpotensi menyebarkan ujaran kebencian, menampilkan bias sosial, dan memalsukan informasi.
Botnet berbasis obrolan yang dikonfigurasi dengan baik akan sulit diidentifikasi dan dapat secara efektif menipu pengguna serta memanipulasi algoritma media sosial. "Botnet ini menipu platform dan pengguna," kata Menczer.
Kekhawatiran tentang potensi penyalahgunaan teknologi seperti Chat untuk kampanye disinformasi bukanlah hal baru. OpenAI bahkan menunda peluncuran pendahulu Chat karena kekhawatiran tersebut.
William Wang, seorang profesor di University of California, Santa Barbara, mengatakan sangat penting untuk mempelajari penggunaan Chat untuk kejahatan di dunia nyata. Ia yakin bahwa banyak halaman web spam sekarang dibuat secara otomatis, sehingga semakin sulitcult bagi manusia untuk menemukan materi semacam itu. Dan, dengan AI yang terus berkembang, hal itu akan semakin sulit. "Situasinya cukup buruk," simpulnya.