OpenAI, moderorganisationen till Chat, verkar stå på gränsen till en monumental bedrift – att lösa "supertelligens"-gåtan. Detta potentiella genombrott medför dock djupgående konsekvenser för mänsklighetens framtid.
Det plötsliga avskedandet och efterföljande återutnämningen av OpenAI:s medgrundare och VD Sam Altman har varit ett ämne för mycket diskussion i teknikvärlden. Nya insikter om katalysatorn för detta drag fortsätter att dyka upp, med en rapport från The Information som tillskriver den interna turbulensen ett betydande framsteg inom Generativ AI. Denna utveckling skulle potentiellt kunna bana väg för framväxten av "superintelligens" inom detta decennium eller till och med tidigare.
"Superintelligens", som termen antyder, syftar på en intelligens som överträffar mänskliga förmågor. Naturligtvis väcker skapandet av ett AI-system som har sådan intelligens utan tillräckliga skyddsåtgärder allvarliga farhågor.
OpenAI Chief Scientist Ilya Sutskever, som också sitter i styrelsen, sägs ha lett detta banbrytande initiativ. Det gör det möjligt för AI att använda renare, datorgenererad data för att ta itu med aldrig tidigare skådade problem. Detta innebär att AI:n inte tränas på flera iterationer av samma problem, utan på information som inte är direkt relaterad till det aktuella problemet. Att lösa problem på detta sätt, typiskt matematiska eller vetenskapliga, kräver resonemang – en mänsklig egenskap som vanligtvis inte förknippas med AI.
Chat, OpenAI:s flaggskeppsprodukt som drivs av GPT stor språkmodell (LLM), kan ge intrycket av att använda resonemang för att formulera sina svar med tanke på dess skenbara intelligens. Men vid närmare interaktion med Chat blir det uppenbart att den bara upprepar vad den har lärt sig från de enorma mängder data den har bearbetat, och gör mestadels korrekta förutsägelser om att konstruera sammanhängande meningar som är relevanta för din fråga. Resonemang spelar inte roll här.
Informationen antyder att detta genombrott, som Altman kan ha antytt på en nyligen genomförd konferens, där han sa: "Personligt, bara under de senaste veckorna har jag fått vara i rummet, när vi liksom pressar sorts okunnighetens slöja tillbaka och upptäcktens gräns framåt”, har skickat chockvågor genom OpenAI.
Hantera hotet
Även om Chat för närvarande inte visar några tecken på superintelligens, är det troligt att OpenAI gör framsteg för att integrera en del av denna kraft i sina premiumprodukter, såsom GPT-4 Turbo och framtida "intelligenta agenter".
Att dra en koppling mellan de senaste styrelseåtgärderna, initialt med stöd av Sutskever, och superintelligensgenombrottet kan tyckas långsökt. Det rapporterade genombrottet inträffade för månader sedan och ledde till att Sutskever och en annan OpenAI-forskare, Jan Leike, etablerade en ny OpenAI-forskningsgrupp med namnet "Superalignment", med uppgift att utarbeta skyddsåtgärder för superintelligens.
I en intressant vändning konstruerar själva företaget som banbryter utvecklingen av superintelligens samtidigt mekanismer för att skydda oss från det, som påminner om doktor Frankenstein som beväpnar bybor med eldkastare.
Det som förblir tvetydigt från rapporten är huruvida interna farhågor kring den snabba utvecklingen mot superintelligens direkt ledde till Altmans avskedande. Kanske, i det stora hela, är det irrelevant.
Som det ser ut är Altman på väg att återuppta sin position på OpenAI, styrelsen har omstrukturerats och strävan efter att utveckla – och skydda sig mot – superintelligens fortsätter.
För de som finner dessa utvecklingar förbryllande kan det vara upplysande att kontakta Chat för att få en förklaring.