Chat, den avancerede AI-chatbot, der har revolutioneret websøgninger og strømlinet kontoropgaver, har desværre fundet et nyt arbejde som svindler på sociale medier.
Botnettet, kendt som "Fox8", blev opdaget på en social netværksplatform tidligere i år af forskere fra Indiana University Bloomington. Botnettet, der var knyttet til flere kryptovaluta-websteder, bestod af over 1,000 konti, mange mente at bruge Snak at generere opslag og svar på sociale medier. Indholdet skabt af disse bots var designet til at lokke uskyldige brugere til at klikke på links, der fører til websteder, der promoverer kryptovaluta.
Micah Musser, en forsker, der har undersøgt potentialet for AI-drevet desinformation, advarer om, at Fox8-botnettet måske kun er begyndelsen på, hvad vi kan forvente at se, når store sprogmodeller og chatbots fortsætter med at stige i popularitet.
Botnettet udnyttede, på trods af sin enorme rækkevidde, ikke Chat på en særlig sofistikeret måde. Ikke desto mindre har opdagelsen af botnettet rejst bekymring over, hvor nemt avancerede chatbots som Chat kan udnyttes til skumle formål. Det frygtes, at mere avancerede og mindre detekterbare botnet allerede kan være i drift.
Filippo Menczer, en professor ved Indiana University Bloomington, som var involveret i forskningen, siger: "Den eneste grund til, at vi lagde mærke til dette særlige botnet, er, at de var sjuskede." Han understreger, at 'bedre' dårlige skuespillere sandsynligvis ville undgå de fejl, som skaberne af Fox8-botnettet begået.
OpenAI, organisationen bag Chat, har endnu ikke kommenteret på opdagelsen af botnettet. Deres brugspolitik forbyder strengt brugen af deres AI-modeller til svindel eller spredning af misinformation.
Chat og andre avancerede chatbots bruger store sprogmodeller til at generere tekst som svar på prompts. Med tilstrækkelige træningsdata, computerkraft og feedback fra menneskelige testere kan disse bots reagere imponerende sofistikerede på en række forskellige input. De har dog også potentiale til at sprede hadefuld tale, vise sociale bias og fabrikere information.
Et velkonfigureret chatbaseret botnet ville være udfordrende at identificere og kunne effektivt bedrage brugere og manipulere sociale mediealgoritmer. "Det narrer både platformen og brugerne," siger Menczer.
Bekymringer om potentiel misbrug af teknologi som Chat til desinformationskampagner er ikke nye. OpenAI udsatte endda udgivelsen af en forgænger til Chat på grund af sådanne bekymringer.
William Wang, professor ved University of California, Santa Barbara, siger, at det er afgørende at studere disse kriminelle anvendelser af Chat i den virkelige verden. Han mener, at mange spam-websider nu genereres automatisk, hvilket gør det stadig vanskeligere.cult for mennesker at få øje på sådant materiale. Og med AI, der konstant forbedres, bliver det kun sværere. "Situationen er ret dårlig," konkluderer han.