OpenAI, die Mutterorganisation von Chat, scheint kurz vor einem monumentalen Erfolg zu stehen: der Lösung des Rätsels der „Superintelligenz“. Dieser potenzielle Durchbruch hat jedoch tiefgreifende Auswirkungen auf die Zukunft der Menschheit.
Die abrupte Entlassung und anschließende Wiedereinstellung von OpenAI-Mitbegründer und CEO Sam Altman hat in der Tech-Welt für viel Diskussion gesorgt. Immer wieder tauchen neue Erkenntnisse über die Ursachen dieses Schritts auf. Ein Bericht von The Information führt die internen Turbulenzen auf einen bedeutenden Fortschritt in der generativen KI zurück. Diese Entwicklung könnte möglicherweise den Weg für die Entstehung von „Superintelligenz“ noch in diesem Jahrzehnt oder sogar früher ebnen.
„Superintelligenz“ bezieht sich, wie der Begriff schon sagt, auf eine Intelligenz, die die menschlichen Fähigkeiten übertrifft. Natürlich gibt die Schaffung eines KI-Systems mit einer solchen Intelligenz ohne angemessene Schutzmaßnahmen Anlass zu ernsthaften Bedenken.
Der Chefwissenschaftler von OpenAI, Ilya Sutskever, der auch im Vorstand sitzt, soll diese bahnbrechende Initiative geleitet haben. Sie ermöglicht es der KI, sauberere, computergenerierte Daten zu nutzen, um beispiellose Probleme anzugehen. Dies bedeutet, dass die KI nicht anhand mehrerer Iterationen desselben Problems trainiert wird, sondern anhand von Informationen, die nicht direkt mit dem vorliegenden Problem zusammenhängen. Das Lösen von Problemen auf diese Weise, typischerweise mathematischer oder wissenschaftlicher Art, erfordert logisches Denken – eine menschliche Eigenschaft, die normalerweise nicht mit KI in Verbindung gebracht wird.
Chat, OpenAIs Flaggschiffprodukt, unterstützt durch die GPT großes Sprachmodell (LLM) könnte angesichts seiner offensichtlichen Intelligenz den Eindruck erwecken, seine Antworten mithilfe von Schlussfolgerungen zu formulieren. Bei näherer Interaktion mit Chat wird jedoch deutlich, dass es lediglich nachplappert, was es aus den enormen Datenmengen gelernt hat, die es verarbeitet hat, und größtenteils zutreffende Vorhersagen zur Konstruktion zusammenhängender Sätze trifft, die für Ihre Anfrage relevant sind. Schlussfolgerungen spielen hier keine Rolle.
Den Informationen zufolge hat dieser Durchbruch, auf den Altman möglicherweise auf einer kürzlich stattgefundenen Konferenz angespielt hat, mit der Aussage „Eine persönliche Anmerkung: Ich war in den letzten paar Wochen mittendrin im Raum, als wir sozusagen den Schleier des Nichtwissens lüften und die Grenzen der Entdeckungen erweitern“, Schockwellen durch OpenAI geschickt.
Umgang mit der Bedrohung
Während Chat derzeit keine Anzeichen von Superintelligenz zeigt, ist es wahrscheinlich, dass OpenAI große Anstrengungen unternimmt, um einen Teil dieser Leistung in seine Premiumprodukte wie GPT-4 Turbo und zukünftige „intelligente Agenten“ zu integrieren.
Eine Verbindung zwischen den jüngsten Vorstandsmaßnahmen, die ursprünglich von Sutskever unterstützt wurden, und dem Durchbruch in Sachen Superintelligenz herzustellen, mag weit hergeholt erscheinen. Der gemeldete Durchbruch ereignete sich bereits vor Monaten und veranlasste Sutskever und einen weiteren OpenAI-Wissenschaftler, Jan Leike, dazu, eine neue OpenAI-Forschungsgruppe namens „Superalignment“ zu gründen, deren Aufgabe es ist, Schutzmaßnahmen für Superintelligenz zu entwickeln.
Eine interessante Wendung besteht darin, dass genau das Unternehmen, das Pionierarbeit bei der Entwicklung der Superintelligenz leistet, gleichzeitig Mechanismen konstruiert, um uns davor zu schützen, was an Doktor Frankenstein erinnert, der Dorfbewohner mit Flammenwerfern bewaffnet.
Was aus dem Bericht nicht eindeutig hervorgeht, ist die Frage, ob interne Befürchtungen über den raschen Fortschritt in Richtung Superintelligenz direkt zu Altmans Entlassung führten. Vielleicht ist es im Großen und Ganzen irrelevant.
Derzeit ist Altman auf dem Weg, seine Position bei OpenAI wieder einzunehmen, der Vorstand wurde umstrukturiert und das Streben, Superintelligenz zu entwickeln und sich vor ihr zu schützen, geht weiter.
Für diejenigen, die diese Entwicklungen verwirrend finden, könnte eine Kontaktaufnahme mit dem Chat aufschlussreich sein, um eine Erklärung zu erhalten.