Chat, der fortschrittliche KI-Chatbot, der die Websuche revolutioniert und Büroaufgaben rationalisiert hat, hat leider ein neues Arbeitsfeld als Betrüger in den sozialen Medien gefunden.
Das als „Fox8“ bekannte Botnetz wurde Anfang des Jahres von Forschern der Indiana University Bloomington auf einer Social-Networking-Plattform entdeckt. Das Botnetz, das mit mehreren Kryptowährungs-Websites verknüpft war, bestand aus über 1,000 Konten, von denen viele vermutlich nutzten Chat um Social-Media-Beiträge und -Antworten zu generieren. Der von diesen Bots erstellte Inhalt sollte unschuldige Benutzer dazu verleiten, auf Links zu klicken, die zu Websites führen, die Kryptowährungen fördern.
Micah Musser, ein Forscher, der das Potenzial KI-gesteuerter Desinformation untersucht hat, warnt davor, dass das Fox8-Botnetz möglicherweise nur der Anfang dessen ist, was wir erwarten können, da große Sprachmodelle und Chatbots immer beliebter werden.
Trotz seiner enormen Reichweite nutzte das Botnetz Chat nicht auf besonders raffinierte Weise. Dennoch hat die Entdeckung des Botnetzes Bedenken geweckt, wie leicht fortgeschrittene Chatbots wie Chat für bösartige Zwecke missbraucht werden können. Es besteht die Befürchtung, dass bereits komplexere und weniger erkennbare Botnetze aktiv sind.
Filippo Menczer, Professor an der Indiana University Bloomington, der an der Untersuchung beteiligt war, sagt: „Der einzige Grund, warum uns dieses spezielle Botnetz aufgefallen ist, ist, dass es schlampig war.“ Er betont, dass „bessere“ schlechte Akteure wahrscheinlich die Fehler vermeiden würden, die die Schöpfer des Fox8-Botnetzes gemacht haben.
OpenAI, die Organisation hinter Chat, hat sich bislang nicht zur Entdeckung des Botnetzes geäußert. Ihre Nutzungsrichtlinien verbieten strengstens die Verwendung ihrer KI-Modelle für Betrug oder die Verbreitung von Desinformationen.
Chatbots und andere fortgeschrittene Chatbots nutzen umfangreiche Sprachmodelle, um Text als Antwort auf Eingabeaufforderungen zu generieren. Mit ausreichend Trainingsdaten, Rechenleistung und Feedback von menschlichen Testern können diese Bots auf eine Vielzahl von Eingaben auf beeindruckend komplexe Weise reagieren. Sie können jedoch auch Hassreden verbreiten, soziale Vorurteile zeigen und Informationen erfinden.
Ein gut konfiguriertes Chat-basiertes Botnetz wäre schwer zu identifizieren und könnte Nutzer effektiv täuschen und die Algorithmen sozialer Medien manipulieren. „Es täuscht sowohl die Plattform als auch die Nutzer“, sagt Menczer.
Bedenken hinsichtlich des möglichen Missbrauchs von Technologien wie Chat für Desinformationskampagnen sind nicht neu. OpenAI hat aufgrund solcher Befürchtungen sogar die Veröffentlichung eines Chat-Vorgängers verschoben.
William Wang, Professor an der University of California in Santa Barbara, hält es für entscheidend, die kriminellen Chat-Nutzungen in der realen Welt zu untersuchen. Er glaubt, dass viele Spam-Webseiten mittlerweile automatisch generiert werden, was es zunehmend schwieriger macht,cult für Menschen, solches Material zu erkennen. Und da sich die KI ständig verbessert, wird es nur noch schwieriger. „Die Situation ist ziemlich schlimm“, schlussfolgert er.