Chat, den avanserte AI-chatboten som har revolusjonert nettsøk og effektivisert kontoroppgaver, har dessverre funnet et nytt virkeområde som svindler på sosiale medier.
Botnettet, kjent som "Fox8", ble oppdaget på en sosial nettverksplattform tidligere i år av forskere fra Indiana University Bloomington. Botnettet, knyttet til flere kryptovaluta-nettsteder, besto av over 1,000 kontoer, mange trodde å bruke Chat å generere innlegg og svar på sosiale medier. Innholdet opprettet av disse robotene ble designet for å lokke uskyldige brukere til å klikke på lenker som fører til nettsteder som fremmer kryptovaluta.
Micah Musser, en forsker som har studert potensialet for AI-drevet desinformasjon, advarer om at Fox8-botnettet kan være bare begynnelsen på det vi kan forvente å se ettersom store språkmodeller og chatboter fortsetter å øke i popularitet.
Til tross for sin enorme rekkevidde utnyttet ikke botnettet Chat på en svært sofistikert måte. Oppdagelsen av botnettet har imidlertid reist bekymring for hvor enkelt avanserte chatboter som Chat kan utnyttes til skumle formål. Det fryktes at mer avanserte og mindre oppdagelige botnett allerede kan være i drift.
Filippo Menczer, en professor ved Indiana University Bloomington som var involvert i forskningen, sier: "Den eneste grunnen til at vi la merke til dette spesielle botnettet er at de var slurvete." Han understreker at "bedre" dårlige skuespillere sannsynligvis ville unngå feilene som ble gjort av skaperne av Fox8-botnettet.
OpenAI, organisasjonen bak Chat, har ennå ikke kommentert oppdagelsen av botnettet. Bruksreglene deres forbyr strengt bruk av AI-modellene deres til svindel eller spredning av desinformasjon.
Chat og andre avanserte chatboter bruker store språkmodeller for å generere tekst som svar på forespørsler. Med tilstrekkelige treningsdata, beregningskraft og tilbakemeldinger fra menneskelige testere, kan disse botene reagere på imponerende sofistikerte måter på en rekke innspill. De har imidlertid også potensial til å spre hatefulle ytringer, vise sosiale skjevheter og fabrikkere informasjon.
Et godt konfigurert chatbasert botnett ville være utfordrende å identifisere og kunne effektivt lure brukere og manipulere algoritmer for sosiale medier. «Det lurer både plattformen og brukerne», sier Menczer.
Bekymringer om potensielt misbruk av teknologi som Chat til desinformasjonskampanjer er ikke nye. OpenAI utsatte til og med lanseringen av en forgjenger til Chat på grunn av slik frykt.
William Wang, professor ved University of California, Santa Barbara, sier det er avgjørende å studere denne kriminelle bruken av Chat i den virkelige verden. Han mener at mange spam-nettsider nå genereres automatisk, noe som gjør det stadig vanskeligere.cult for mennesker å oppdage slikt materiale. Og med AI som stadig forbedres, vil det bare bli vanskeligere. Situasjonen er ganske dårlig, konkluderer han.