OpenAI, de moederorganisatie van Chat, lijkt op het punt te staan een monumentale prestatie te leveren: het oplossen van het 'superintelligentie'-raadsel. Deze potentiële doorbraak heeft echter ingrijpende gevolgen voor de toekomst van de mensheid.
Het abrupte ontslag en de daaropvolgende herbenoeming van OpenAI's medeoprichter en CEO Sam Altman is een onderwerp van veel discussie in de techwereld. Er blijven nieuwe inzichten in de katalysator voor deze zet naar voren komen, met een rapport van The Information dat de interne onrust toeschrijft aan een significante vooruitgang in Generative AI. Deze ontwikkeling zou potentieel de weg kunnen vrijmaken voor de opkomst van 'superintelligentie' binnen dit decennium of zelfs eerder.
'Superintelligentie' verwijst, zoals de term suggereert, naar een intelligentie die de menselijke capaciteiten te boven gaat. Uiteraard baart de creatie van een AI-systeem dat over dergelijke intelligentie beschikt, zonder adequate waarborgen, ernstige zorgen.
OpenAI Chief Scientist Ilya Sutskever, die ook in het bestuur zit, zou dit baanbrekende initiatief hebben geleid. Het stelt AI in staat om schonere, door de computer gegenereerde data te gebruiken om ongekende problemen aan te pakken. Dit houdt in dat de AI niet is getraind op meerdere iteraties van hetzelfde probleem, maar op informatie die niet direct gerelateerd is aan het probleem in kwestie. Problemen op deze manier oplossen, meestal wiskundige of wetenschappelijke, vereist redeneren – een menselijke eigenschap die doorgaans niet wordt geassocieerd met AI.
Chat, het vlaggenschipproduct van OpenAI, aangedreven door de GPT groot taalmodel (LLM) wekt misschien de indruk dat hij redeneringen gebruikt om zijn antwoorden te formuleren, gezien zijn ogenschijnlijke intelligentie. Bij nadere interactie met Chat wordt echter duidelijk dat hij slechts napraat wat hij heeft geleerd uit de enorme hoeveelheden verwerkte data, en meestal accurate voorspellingen doet over het construeren van coherente zinnen die relevant zijn voor je vraag. Redeneren speelt hier geen rol.
De informatie suggereert dat deze doorbraak, waar Altman mogelijk op heeft gezinspeeld tijdens een recente conferentie, toen hij zei: "Op een persoonlijke noot, pas de afgelopen paar weken, ben ik in de zaal geweest, toen we de sluier van onwetendheid opzij schoven en de grens van ontdekking vooruit schoven", schokgolven door OpenAI heeft gestuurd.
Omgaan met de dreiging
Hoewel Chat op dit moment nog geen tekenen van superintelligentie vertoont, is het waarschijnlijk dat OpenAI stappen zet om een deel van deze kracht te integreren in zijn premiumproducten, zoals GPT-4 Turbo en toekomstige 'intelligente agenten'.
Een verband leggen tussen de recente bestuursacties, aanvankelijk gesteund door Sutskever, en de doorbraak in superintelligentie lijkt misschien vergezocht. De gerapporteerde doorbraak vond maanden geleden plaats en leidde ertoe dat Sutskever en een andere OpenAI-wetenschapper, Jan Leike, een nieuwe OpenAI-onderzoeksgroep oprichtten met de naam 'Superalignment', belast met het bedenken van waarborgen voor superintelligentie.
In een interessante wending bouwt juist het bedrijf dat pioniert in de ontwikkeling van superintelligentie tegelijkertijd mechanismen om ons ertegen te beschermen, wat doet denken aan dokter Frankenstein die dorpelingen bewapent met vlammenwerpers.
Wat uit het rapport onduidelijk blijft, is of interne zorgen rond de snelle ontwikkeling naar superintelligentie direct tot het ontslag van Altman hebben geleid. Misschien is het in het grote geheel niet relevant.
Zoals het er nu voorstaat, is Altman op weg om zijn functie bij OpenAI weer op te pakken, is de raad van bestuur geherstructureerd en blijft de zoektocht naar de ontwikkeling van – en bescherming tegen – superintelligentie voortduren.
Als u deze ontwikkelingen verbijsterend vindt, kan het verhelderend zijn om via Chat een uitleg te krijgen.