OpenAI, die bahnbrechende Organisation hinter der Entwicklung von Chat, verstärkt ihr Engagement für die Sicherheit künstlicher Intelligenz (KI). Das Unternehmen hat kürzlich eine neue Initiative vorgestellt, die sich proaktiv mit dem gesamten Spektrum potenzieller Risiken im Zusammenhang mit KI befasst.
Diese neuartige Abteilung mit dem Namen „Preparedness“ wurde am 25. Oktober angekündigt und stellt einen bedeutenden Fortschritt dar OpenAI's kontinuierliche Bemühungen, den sicheren Einsatz von KI zu gewährleisten. Das Team wird sich auf die Identifizierung und Eindämmung potenzieller KI-Bedrohungen in chemischen, biologischen, radiologischen und nuklearen Bereichen sowie auf Risiken im Zusammenhang mit individueller Überzeugung, Cybersicherheit sowie autonomer Replikation und Anpassung konzentrieren.
Das Preparedness-Team unter der Leitung von Aleksander Madry wird sich mit kritischen Fragen wie dem möglichen Missbrauch von Grenz-KI-Systemen und der Bedrohung durch böswillige Akteure durch den Einsatz gestohlener KI-Modellgewichte auseinandersetzen.
OpenAI erkennt die zweischneidige Natur der KI-Technologie an. „Grenzüberschreitende KI-Modelle, die die Fähigkeiten der derzeit fortschrittlichsten Modelle übertreffen werden, haben das Potenzial, der gesamten Menschheit zu nützen“, schreibt das Unternehmen. Es räumt jedoch auch ein, dass diese Modelle „zunehmend schwerwiegende Risiken“ bergen.
Um sich in dieser komplexen Landschaft zurechtzufinden, hat sich OpenAI dazu verpflichtet, einen robusten Ansatz zur Katastrophenvorsorge zu entwickeln. Dieses Engagement erstreckt sich auch auf die Rekrutierungsstrategie, wobei OpenAI aktiv nach Personen mit unterschiedlichen technischen Fähigkeiten sucht, um sich seinem Vorsorgeteam anzuschließen. Das Unternehmen hat außerdem eine AI Preparedness Challenge gestartet, die darauf abzielt, Katastrophenmissbrauch zu verhindern, und bietet den besten 25,000 Einsendungen API-Guthaben in Höhe von 10 USD.
Die Ankündigung des Preparedness-Teams folgt auf die Erklärung von OpenAI vom Juli 2023 zu seinen Plänen, ein Team einzurichten, das sich der Bekämpfung potenzieller KI-Bedrohungen widmet.
Mit der Weiterentwicklung der KI nehmen auch die Bedenken hinsichtlich ihrer potenziellen Risiken zu. Manche befürchten, dass die KI die menschliche Intelligenz übertreffen könnte, was zu unvorhergesehenen Folgen führen würde. Trotz dieser Bedenken entwickeln Unternehmen wie OpenAI weiterhin Innovationen im Bereich der KI, was weitere Debatten ausgelöst hat.
Im Mai 2023 veröffentlichte die gemeinnützige Organisation Center for AI Safety einen offenen Brief zum Thema KI-Risiken, in dem sie die Weltgemeinschaft dazu aufforderte, neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkriegen auch die Eindämmung der Risiken des Aussterbens durch KI zur Priorität zu machen.