Chat, pokročilý chatbot s umělou inteligencí, který způsobil revoluci ve vyhledávání na webu a zefektivnil kancelářské úkoly, si bohužel našel novou práci jako podvodník na sociálních sítích.
Botnet, známý jako „Fox8“, byl objeven, že funguje na platformě sociálních sítí začátkem tohoto roku vědci z Indiana University Bloomington. Botnet, propojený s několika webovými stránkami o kryptoměnách, se skládal z více než 1,000 účtů, z nichž mnozí věřili, že používají Povídat si generovat příspěvky a odpovědi na sociálních sítích. Obsah vytvořený těmito roboty byl navržen tak, aby lákal nevinné uživatele ke klikání na odkazy vedoucí na stránky propagující kryptoměny.
Micah Musser, výzkumník, který studoval potenciál dezinformací řízených umělou inteligencí, varuje, že botnet Fox8 může být jen začátkem toho, co můžeme očekávat, protože velké jazykové modely a chatboti stále rostou na popularitě.
Botnet, navzdory svému obrovskému dosahu, nevyužíval Chat příliš sofistikovaným způsobem. Nicméně objevení botnetu vyvolalo obavy ohledně snadnosti, s jakou lze pokročilé chatboty, jako je Chat, zneužít k nekalým účelům. Existují obavy, že pokročilejší a hůře detekovatelné botnety již mohou být v provozu.
Filippo Menczer, profesor na Indiana University Bloomington, který se podílel na výzkumu, říká: "Jediný důvod, proč jsme si všimli tohoto konkrétního botnetu, je to, že byly nedbalé." Zdůrazňuje, že „lepší“ špatní herci by se pravděpodobně vyvarovali chyb, kterých se dopustili tvůrci botnetu Fox8.
OpenAI, organizace stojící za Chatem, se k objevení botnetu zatím nevyjádřila. Jejich zásady používání přísně zakazují používání modelů umělé inteligence k podvodům nebo šíření dezinformací.
Chat a další pokročilí chatboti používají rozsáhlé jazykové modely ke generování textu v reakci na výzvy. S dostatečnými trénovacími daty, výpočetním výkonem a zpětnou vazbou od lidských testerů mohou tito boti reagovat působivě sofistikovanými způsoby na různé vstupy. Mají však také potenciál šířit nenávistné projevy, projevovat sociální předsudky a vymýšlet si informace.
Dobře nakonfigurovaný botnet založený na chatu by bylo obtížné identifikovat a mohl by efektivně klamat uživatele a manipulovat s algoritmy sociálních médií. „Podvádí jak platformu, tak uživatele,“ říká Menczer.
Obavy z možného zneužití technologií, jako je Chat, pro dezinformační kampaně nejsou nové. OpenAI dokonce kvůli těmto obavám odložila vydání předchůdce Chatu.
William Wang, profesor na Kalifornské univerzitě v Santa Barbaře, říká, že je zásadní studovat tato reálná kriminální využití Chatu. Domnívá se, že mnoho spamových webových stránek se nyní generuje automaticky, což stále více ztěžuje...cult aby lidé takový materiál objevili. A s neustálým zlepšováním AI to bude jen těžší. „Situace je velmi špatná,“ uzavírá.