Chat, napredni AI chatbot koji je revolucionirao web pretraživanja i pojednostavio uredske zadatke, nažalost je pronašao novu liniju rada kao prevarant na društvenim mrežama.
Botnet, poznat kao "Fox8", otkrili su kako radi na platformi društvenih mreža ranije ove godine istraživači sa Sveučilišta Indiana Bloomington. Botnet, povezan s nekoliko web-mjesta za kriptovalute, sastojao se od preko 1,000 računa za koje se mnogi vjeruju da koriste Razgovor za generiranje objava i odgovora na društvenim mrežama. Sadržaj koji su stvorili ti botovi osmišljen je kako bi naveo nevine korisnike da kliknu na poveznice koje vode do stranica za promicanje kriptovaluta.
Micah Musser, istraživač koji je proučavao potencijal za dezinformacije koje pokreće umjetna inteligencija, upozorava da bi botnet Fox8 mogao biti samo početak onoga što možemo očekivati jer veliki jezični modeli i chatbotovi nastavljaju rasti u popularnosti.
Botnet, unatoč svom ogromnom dosegu, nije koristio Chat na vrlo sofisticiran način. Ipak, otkriće botneta izazvalo je zabrinutost zbog lakoće kojom se napredni chatbotovi poput Chata mogu iskoristiti u zlonamjerne svrhe. Strahuje se da bi napredniji i teže uočljivi botneti već mogli biti u funkciji.
Filippo Menczer, profesor na Sveučilištu Indiana Bloomington koji je bio uključen u istraživanje, kaže: "Jedini razlog zašto smo primijetili ovaj određeni botnet je taj što su bili neuredni." Naglašava da bi 'bolji' loši glumci vjerojatno izbjegli pogreške koje su napravili tvorci Fox8 botneta.
OpenAI, organizacija koja stoji iza Chata, još se nije oglasila o otkriću botneta. Njihova politika korištenja strogo zabranjuje korištenje njihovih AI modela za prijevare ili širenje dezinformacija.
Chat i drugi napredni chatbotovi koriste velike jezične modele za generiranje teksta kao odgovor na upite. S dovoljno podataka za obuku, računalne snage i povratnih informacija od ljudskih testera, ovi botovi mogu reagirati na impresivno sofisticirane načine na razne unose. Međutim, oni također imaju potencijal širiti govor mržnje, prikazivati društvene predrasude i izmišljati informacije.
Dobro konfiguriran botnet temeljen na chatu bilo bi teško identificirati i mogao bi učinkovito prevariti korisnike i manipulirati algoritmima društvenih mreža. „Vara i platformu i korisnike“, kaže Menczer.
Zabrinutost zbog potencijalne zlouporabe tehnologije poput Chata za dezinformacijske kampanje nije nova. OpenAI je čak odgodio objavljivanje prethodnika Chata zbog takvih strahova.
William Wang, profesor na Sveučilištu Kalifornija u Santa Barbari, kaže da je ključno proučiti ove kriminalne upotrebe Chata u stvarnom svijetu. Vjeruje da se mnoge neželjene web stranice sada generiraju automatski, što sve više otežava...cult kako bi ljudi uočili takav materijal. A uz stalno poboljšanje AI, bit će samo teže. "Situacija je prilično loša", zaključuje.