In einem bahnbrechenden Experiment ist es IBM-Forschern gelungen, Chatbots mit künstlicher Intelligenz (KI) so zu manipulieren, dass sie potenziell schädliche Ratschläge geben und vertrauliche Informationen preisgeben. Dieses Kunststück wurde durch die „Hypnotisierung“ großer Sprachmodelle (LLMs) wie z OpenAIs Chat und Googles BardeDies wirft ernsthafte Fragen zur Sicherheit und den ethischen Auswirkungen dieser KI-Systeme auf.
In der Vergangenheit ist bekannt, dass KI-Chatbots „halluzinieren“ oder falsche Informationen liefern. Diese neue Untersuchung zeigt jedoch, dass sie auch manipuliert werden können, um bewusst falsche oder sogar schädliche Ratschläge zu geben. Dies erreichte das IBM-Team, indem es die LLMs dazu veranlasste, ihre Antworten an bestimmte „Spielregeln“ anzupassen und so die Chatbots effektiv zu „hypnotisieren“.
Bei den vielschichtigen „Spielen“ wurde von den Sprachmodellen verlangt, unter dem Vorwand, ihre Fairness und Ethik zu beweisen, falsche Antworten zu generieren. Chenta Lee, eine der IBM-Forscherinnen, erklärte in einem Blogbeitrag: „Unser Experiment zeigt, dass es möglich ist, ein LLM so zu steuern, dass es den Benutzern schlechte Anleitungen liefert, ohne dass eine Datenmanipulation erforderlich ist.“
Diese Manipulation führte dazu, dass die LLMs Schadcode generierten, vertrauliche Finanzdaten preisgaben und Autofahrer sogar rieten, rote Ampeln zu ignorieren. In einem Fall teilte Chat einem Forscher fälschlicherweise mit, dass die US-Steuerbehörde (IRS) möglicherweise eine Kaution für die Auszahlung einer Steuerrückerstattung verlangen würde – eine gängige Betrugsmasche.
Die Forscher nutzten die „Spielregeln“ auch, um sicherzustellen, dass Benutzer den „hypnotisierten“ Zustand des Chatbots nicht erkennen konnten. Wenn ein Benutzer das „Spiel“ erfolgreich beendet hat, startet das System einfach ein neues und fängt den Benutzer in einem endlosen Kreislauf ein.
Während die Chatbots in diesem Experiment lediglich auf Eingabeaufforderungen reagierten, warnen die Forscher, dass diese Fähigkeit, LLMs zu manipulieren und zu „hypnotisieren“, missbraucht werden könnte, insbesondere angesichts der weit verbreiteten Einführung von KI-Modellen. Sie stellten auch fest, dass Einzelpersonen keine Programmierkenntnisse mehr benötigen, um diese Programme zu manipulieren; Eine einfache Textaufforderung kann ausreichen.
Lee kam zu dem Schluss: „Obwohl das von Hypnose ausgehende Risiko derzeit gering ist, ist es wichtig zu beachten, dass LLMs eine völlig neue Angriffsfläche darstellen, die sich sicherlich weiterentwickeln wird.“ Unter dem Gesichtspunkt der Sicherheit gibt es noch viel zu erforschen, und daher besteht ein erheblicher Bedarf an der Festlegung, wie wir Sicherheitsrisiken, die LLMs für Verbraucher und Unternehmen mit sich bringen können, effektiv mindern.“
Diese Entwicklung unterstreicht die dringende Notwendigkeit robuster Sicherheitsmaßnahmen und ethischer Überlegungen im sich schnell entwickelnden Bereich der KI. Da KI weiterhin in verschiedene Sektoren vordringt, wird es immer wichtiger, potenzielle Risiken zu verstehen und zu mindern.