Chat, chatbot-ul avansat cu inteligență artificială care a revoluționat căutările web și a eficientizat sarcinile de birou, și-a găsit din păcate o nouă direcție de activitate ca escroc pe rețelele sociale.
Rețeaua botnet, cunoscută sub numele de „Fox8”, a fost descoperită funcționând pe o platformă de rețele sociale la începutul acestui an de către cercetătorii de la Universitatea Indiana Bloomington. Rețeaua bot, legată de mai multe site-uri web de criptomonede, a constat din peste 1,000 de conturi, multe despre care se crede că le folosesc Conversație pentru a genera postări și răspunsuri pe rețelele sociale. Conținutul creat de acești roboți a fost conceput pentru a atrage utilizatorii nevinovați să facă clic pe linkuri care duc la site-uri care promovează criptomonede.
Micah Musser, un cercetător care a studiat potențialul dezinformarii bazate pe inteligență artificială, avertizează că botnetul Fox8 poate fi doar începutul a ceea ce ne putem aștepta să vedem, pe măsură ce modelele mari de limbă și chatbot-urile continuă să crească în popularitate.
În ciuda vastei sale acoperiri, botnet-ul nu a utilizat Chat într-un mod extrem de sofisticat. Cu toate acestea, descoperirea botnet-ului a ridicat îngrijorări cu privire la ușurința cu care chatboții avansați precum Chat pot fi exploatați în scopuri nefaste. Există temerile că botnet-uri mai avansate și mai puțin detectabile ar putea fi deja în funcțiune.
Filippo Menczer, profesor la Universitatea Indiana Bloomington care a fost implicat în cercetare, spune: „Singurul motiv pentru care am observat acest botnet anume este că erau neglijenți”. El subliniază că actorii răi „mai buni” ar evita probabil greșelile făcute de creatorii rețelei botnet Fox8.
OpenAI, organizația din spatele Chat, nu a comentat încă descoperirea botnet-ului. Politica lor de utilizare interzice strict utilizarea modelelor lor de inteligență artificială pentru escrocherii sau răspândirea dezinformării.
Chat-urile și alte chatbot-uri avansate utilizează modele lingvistice ample pentru a genera text ca răspuns la solicitări. Cu suficiente date de antrenament, putere de calcul și feedback de la testeri umani, acești roboți pot răspunde în moduri impresionant de sofisticate la o varietate de intrări. Cu toate acestea, au și potențialul de a răspândi discursuri instigatoare la ură, de a afișa prejudecăți sociale și de a fabrica informații.
O rețea de bot-uri bine configurată, bazată pe chat, ar fi dificil de identificat și ar putea înșela eficient utilizatorii și manipula algoritmii de socializare. „Păcălește atât platforma, cât și utilizatorii”, spune Menczer.
Îngrijorările legate de potențiala utilizare abuzivă a tehnologiei precum Chat pentru campanii de dezinformare nu sunt noi. OpenAI a amânat chiar și lansarea unui predecesor al Chat din cauza unor astfel de temeri.
William Wang, profesor la Universitatea din California, Santa Barbara, spune că este crucial să se studieze aceste utilizări ale chatului în scopuri criminale din lumea reală. El consideră că multe pagini web spam sunt generate acum automat, ceea ce face din ce în ce mai dificilă...cult pentru ca oamenii să descopere un astfel de material. Și, cu IA care se îmbunătățește continuu, va deveni doar mai greu. „Situația este destul de proastă”, conchide el.