OpenAI, mororganisasjonen til Chat, ser ut til å være på randen av en monumental prestasjon – å løse «superintelligens»-gåten. Dette potensielle gjennombruddet bringer imidlertid med seg dyptgående implikasjoner for menneskehetens fremtid.
Den brå oppsigelsen og den påfølgende gjenutnevningen av OpenAIs medgründer og administrerende direktør Sam Altman har vært et tema for mye diskusjon i teknologiverdenen. Ny innsikt i katalysatoren for dette trekket fortsetter å dukke opp, med en rapport fra The Information som tilskriver den interne uroen til en betydelig fremgang innen Generativ AI. Denne utviklingen kan potensielt bane vei for fremveksten av "superintelligens" i løpet av dette tiåret eller enda tidligere.
"Superintelligens", som begrepet antyder, refererer til en intelligens som overgår menneskelige evner. Naturligvis skaper etableringen av et AI-system som har slik intelligens uten tilstrekkelige sikkerhetstiltak, alvorlige bekymringer.
OpenAI Chief Scientist Ilya Sutskever, som også sitter i styret, sies å ha ledet dette banebrytende initiativet. Det gjør AI i stand til å bruke renere, datagenerert data for å takle enestående problemer. Dette innebærer at AI ikke er trent på flere iterasjoner av det samme problemet, men på informasjon som ikke er direkte relatert til det aktuelle problemet. Å løse problemer på denne måten, typisk matematiske eller vitenskapelige, krever resonnement – en menneskelig egenskap som ikke vanligvis assosieres med AI.
Chat, OpenAIs flaggskipprodukt drevet av GPT stor språkmodell (LLM), kan gi inntrykk av å bruke resonnement til å formulere svarene sine gitt dens tilsynelatende intelligens. Ved nærmere interaksjon med Chat blir det imidlertid tydelig at den bare gjentar det den har lært av de enorme mengdene data den har behandlet, og kommer stort sett med nøyaktige forutsigelser om å konstruere sammenhengende setninger som er relevante for spørringen din. Resonnement spiller ikke inn her.
Informasjonen antyder at dette gjennombruddet, som Altman kan ha antydet på en nylig konferanse, og sa: "på en personlig note, bare i løpet av de siste par ukene, har jeg fått være i rommet, når vi liksom presser slags slør av uvitenhet tilbake og grensen for oppdagelse fremover,” har sendt sjokkbølger gjennom OpenAI.
Håndtere trusselen
Selv om Chat for øyeblikket ikke viser tegn til superintelligens, er det sannsynlig at OpenAI gjør fremskritt for å innlemme noe av denne kraften i sine premiumprodukter, som GPT-4 Turbo og fremtidige «intelligente agenter».
Å tegne en sammenheng mellom de nylige styrehandlingene, opprinnelig støttet av Sutskever, og superetterretningsgjennombruddet kan virke langsøkt. Det rapporterte gjennombruddet skjedde for måneder siden og førte til at Sutskever og en annen OpenAI-forsker, Jan Leike, etablerte en ny OpenAI-forskningsgruppe kalt 'Superalignment', som har i oppgave å utarbeide sikkerhetstiltak for superintelligens.
I en interessant vri, konstruerer selve selskapet som er banebrytende i utviklingen av superintelligens samtidig mekanismer for å skjerme oss fra det, som minner om doktor Frankenstein som bevæpner landsbyboere med flammekastere.
Det som forblir tvetydig fra rapporten er om interne bekymringer rundt den raske progresjonen mot superintelligens førte direkte til Altmans oppsigelse. Kanskje, i den store sammenhengen, er det irrelevant.
Som det står, er Altman på vei for å gjenoppta sin stilling i OpenAI, styret har blitt omstrukturert, og søken etter å utvikle – og beskytte seg mot – superintelligens vedvarer.
For de som synes disse utviklingene er forvirrende, kan det være opplysende å snakke med Chat for å få en forklaring.