OpenAI, matična organizacija Chata, čini se da je na rubu monumentalnog postignuća – rješavanja zagonetke 'superinteligencije'. Međutim, ovaj potencijalni proboj sa sobom nosi duboke implikacije za budućnost čovječanstva.
Nagla smjena i kasnije ponovno imenovanje suosnivača i izvršnog direktora OpenAI-ja Sama Altmana bila je tema mnogih rasprava u svijetu tehnologije. Svježi uvidi o katalizatoru za ovaj potez nastavljaju se pojavljivati, s izvješćem The Informationa koje unutarnje previranje pripisuje značajnom napretku u Generativnoj umjetnoj inteligenciji. Ovaj bi razvoj potencijalno mogao otvoriti put za pojavu 'superinteligencije' u ovom desetljeću ili čak i prije.
'Superinteligencija', kako izraz sugerira, odnosi se na inteligenciju koja nadilazi ljudske sposobnosti. Naravno, stvaranje AI sustava koji posjeduje takvu inteligenciju bez odgovarajućih zaštitnih mjera izaziva ozbiljnu zabrinutost.
Rečeno je da je glavni znanstvenik OpenAI-ja Ilya Sutskever, koji je također član odbora, vodio ovu revolucionarnu inicijativu. Omogućuje umjetnoj inteligenciji da koristi čišće, računalno generirane podatke za rješavanje problema bez presedana. To implicira da umjetna inteligencija nije uvježbana na višestrukim ponavljanjima istog problema, već na informacijama koje nisu izravno povezane s problemom koji je u pitanju. Rješavanje problema na ovaj način, tipično matematičkih ili znanstvenih, zahtijeva rasuđivanje – što je ljudska osobina koja se obično ne povezuje s umjetnom inteligencijom.
Chat, vodeći proizvod OpenAI-a, pokretan GPT veliki jezični model (LLM), s obzirom na svoju očitu inteligenciju, mogao bi ostaviti dojam da koristi logičko razmišljanje za formuliranje svojih odgovora. Međutim, nakon bliže interakcije s Chatom, postaje očito da samo papagajski ponavlja ono što je naučio iz ogromnih količina podataka koje je obradio, dajući uglavnom točna predviđanja o konstruiranju koherentnih rečenica relevantnih za vaš upit. Logičko razmišljanje ovdje ne dolazi u obzir.
Informacije sugeriraju da je ovaj napredak, koji je Altman možda nagovijestio na nedavnoj konferenciji, rekavši, "osobno, u zadnjih nekoliko tjedana, bio sam u prostoriji, kada smo nekako gurali neka vrsta vela neznanja natrag i granice otkrića naprijed”, izazvalo je šok kroz OpenAI.
Rukovanje prijetnjom
Iako Chat trenutno ne pokazuje znakove superinteligencije, vjerojatno je da OpenAI čini korake kako bi dio te moći uključio u svoje premium proizvode, poput GPT-4 Turbo i budućih 'inteligentnih agenata'.
Uspostavljanje veze između nedavnih radnji odbora, koje je u početku podupirao Sutskever, i otkrića superinteligencije moglo bi se činiti nategnutim. Prijavljeno otkriće dogodilo se prije nekoliko mjeseci i navelo je Sutskevera i još jednog OpenAI znanstvenika, Jana Leikea, da uspostave novu OpenAI istraživačku skupinu pod nazivom 'Superalignment', zaduženu za osmišljavanje zaštitnih mjera za superinteligenciju.
U zanimljivom obratu, upravo tvrtka koja je pionir u razvoju superinteligencije istovremeno konstruira mehanizme koji će nas zaštititi od nje, podsjećajući na doktora Frankensteina koji naoružava seljane bacačima plamena.
Ono što iz izvješća ostaje nejasno jest jesu li unutarnje strepnje oko brzog napredovanja prema superinteligenciji izravno dovele do Altmanove smjene. Možda je, u velikoj shemi stvari, to irelevantno.
Kako sada stoji, Altman je na putu da ponovno preuzme svoju poziciju u OpenAI-ju, odbor je restrukturiran, a potraga za razvojem – i zaštitom od – superinteligencije i dalje traje.
Za one koji smatraju ovaj razvoj događaja zbunjujućim, angažiranje Chata za objašnjenje moglo bi se pokazati poučnim.