Chat, de geavanceerde AI-chatbot die een revolutie teweegbrengt in webzoekopdrachten en kantoortaken stroomlijnt, heeft helaas een nieuwe baan gevonden als oplichter op sociale media.
Het botnet, bekend als "Fox8", werd eerder dit jaar ontdekt op een sociaal netwerkplatform door onderzoekers van Indiana University Bloomington. Het botnet, gekoppeld aan verschillende cryptocurrency-websites, bestond uit meer dan 1,000 accounts, waarvan velen dachten dat ze deze gebruikten Chat om berichten en reacties op sociale media te genereren. De inhoud die door deze bots is gemaakt, is ontworpen om onschuldige gebruikers te verleiden tot klikken op links die leiden naar sites die cryptocurrency promoten.
Micah Musser, een onderzoeker die het potentieel van AI-gestuurde desinformatie heeft bestudeerd, waarschuwt dat het Fox8-botnet misschien nog maar het begin is van wat we kunnen verwachten, aangezien grote taalmodellen en chatbots steeds populairder worden.
Ondanks zijn enorme bereik maakte het botnet geen gebruik van Chat op een zeer geavanceerde manier. De ontdekking van het botnet heeft echter geleid tot zorgen over het gemak waarmee geavanceerde chatbots zoals Chat voor kwaadaardige doeleinden kunnen worden misbruikt. Er wordt gevreesd dat er mogelijk al geavanceerdere en minder detecteerbare botnets actief zijn.
Filippo Menczer, een professor aan de Indiana University Bloomington die betrokken was bij het onderzoek, zegt: "De enige reden dat we dit specifieke botnet opmerkten, is dat ze slordig waren." Hij benadrukt dat 'betere' slechte acteurs waarschijnlijk de fouten van de makers van het Fox8-botnet zouden vermijden.
OpenAI, de organisatie achter Chat, heeft nog geen commentaar gegeven op de ontdekking van het botnet. Hun gebruiksbeleid verbiedt ten strengste het gebruik van hun AI-modellen voor oplichting of het verspreiden van desinformatie.
Chatbots en andere geavanceerde chatbots gebruiken grote taalmodellen om tekst te genereren als reactie op prompts. Met voldoende trainingsdata, rekenkracht en feedback van menselijke testers kunnen deze bots indrukwekkend geavanceerd reageren op diverse invoer. Ze kunnen echter ook haatzaaiende taal verspreiden, sociale vooroordelen vertonen en informatie verzinnen.
Een goed geconfigureerd chatgebaseerd botnet zou lastig te identificeren zijn en zou gebruikers effectief kunnen misleiden en algoritmen voor sociale media kunnen manipuleren. "Het misleidt zowel het platform als de gebruikers", zegt Menczer.
Zorgen over mogelijk misbruik van technologie zoals Chat voor desinformatiecampagnes zijn niet nieuw. OpenAI heeft zelfs de release van een voorloper van Chat uitgesteld vanwege dergelijke angsten.
William Wang, hoogleraar aan de Universiteit van Californië in Santa Barbara, zegt dat het cruciaal is om dit criminele gebruik van Chat in de praktijk te bestuderen. Hij is van mening dat veel spampagina's nu automatisch worden gegenereerd, waardoor het steeds moeilijker wordt om ze te gebruiken.cult voor mensen om dergelijk materiaal te spotten. En met AI die voortdurend verbetert, zal het alleen maar moeilijker worden. "De situatie is behoorlijk slecht", concludeert hij.