OpenAI, moderorganisationen til Chat, ser ud til at være på tærsklen til en monumental bedrift – at løse 'superintelligens'-gåden. Dette potentielle gennembrud har dog dybtgående konsekvenser for menneskehedens fremtid.
Den bratte afskedigelse og efterfølgende genudnævnelse af OpenAIs medstifter og CEO Sam Altman har været et emne for megen diskussion i teknologiverdenen. Frisk indsigt i katalysatoren for dette træk fortsætter med at dukke op, med en rapport fra The Information, der tilskriver den interne uro til en betydelig fremgang inden for Generativ AI. Denne udvikling kan potentielt bane vejen for fremkomsten af 'superintelligens' inden for dette årti eller endnu tidligere.
'Superintelligens', som udtrykket antyder, refererer til en intelligens, der overgår menneskelige evner. Naturligvis vækker oprettelsen af et AI-system, der besidder en sådan intelligens uden tilstrækkelige sikkerhedsforanstaltninger, alvorlige bekymringer.
OpenAI Chief Scientist Ilya Sutskever, som også sidder i bestyrelsen, siges at have ledet dette banebrydende initiativ. Det gør AI i stand til at bruge renere, computergenereret data til at tackle hidtil usete problemer. Dette indebærer, at AI ikke trænes på flere gentagelser af det samme problem, men på information, der ikke er direkte relateret til det aktuelle problem. At løse problemer på denne måde, typisk matematiske eller videnskabelige, kræver ræsonnement - en menneskelig egenskab, der ikke typisk forbindes med AI.
Chat, OpenAIs flagskibsprodukt drevet af GPT stor sprogmodel (LLM), kan give indtryk af at bruge ræsonnement til at formulere sine svar givet sin tilsyneladende intelligens. Ved nærmere interaktion med Chat bliver det dog tydeligt, at den blot gentager, hvad den har lært af de enorme mængder data, den har behandlet, og for det meste foretager præcise forudsigelser om at konstruere sammenhængende sætninger, der er relevante for din forespørgsel. Ræsonnement spiller ikke en rolle her.
Informationen antyder, at dette gennembrud, som Altman kan have antydet på en nylig konference, idet han sagde, "på en personlig note, lige i de sidste par uger, er jeg kommet til at være i rummet, når vi ligesom skubber til slags sløret af uvidenhed tilbage og grænsen for opdagelse fremad,” har sendt chokbølger gennem OpenAI.
Håndtering af truslen
Selvom Chat i øjeblikket ikke viser tegn på superintelligens, er det sandsynligt, at OpenAI gør fremskridt med at inkorporere noget af denne kraft i sine premium-produkter, såsom GPT-4 Turbo og fremtidige 'intelligente agenter'.
At tegne en sammenhæng mellem de seneste bestyrelseshandlinger, i første omgang støttet af Sutskever, og superintelligens gennembrud kan virke langt ude. Det rapporterede gennembrud fandt sted for måneder siden og fik Sutskever og en anden OpenAI-forsker, Jan Leike, til at etablere en ny OpenAI-forskningsgruppe ved navn 'Superalignment', der har til opgave at udtænke sikkerhedsforanstaltninger for superintelligens.
I en interessant drejning konstruerer selve firmaet, der er banebrydende i udviklingen af superintelligens, samtidig mekanismer til at skærme os fra det, der minder om doktor Frankenstein, der bevæbner landsbyboere med flammekastere.
Det, der forbliver tvetydigt fra rapporten, er, om interne betænkeligheder omkring den hurtige udvikling mod superintelligens direkte førte til Altmans afskedigelse. Måske er det i den store sammenhæng irrelevant.
Som det står, er Altman på vej til at genoptage sin stilling hos OpenAI, bestyrelsen er blevet omstruktureret, og jagten på at udvikle – og beskytte sig mod – superintelligens fortsætter.
For dem, der finder disse udviklinger forvirrende, kan det være oplysende at kontakte Chat for at få en forklaring.