OpenAI, l'organizzazione madre di Chat, sembra essere sul punto di raggiungere un traguardo monumentale: risolvere l'enigma della "superintelligenza". Tuttavia, questa potenziale svolta porta con sé profonde implicazioni per il futuro dell'umanità.
Il brusco licenziamento e la successiva riconferma del co-fondatore e CEO di OpenAI Sam Altman sono stati oggetto di molte discussioni nel mondo della tecnologia. Nuove intuizioni sul catalizzatore di questa mossa continuano a emergere, con un rapporto di The Information che attribuisce il tumulto interno a un significativo progresso nell'IA generativa. Questo sviluppo potrebbe potenzialmente aprire la strada all'emergere della "superintelligenza" entro questo decennio o anche prima.
La "superintelligenza", come suggerisce il termine, si riferisce a un'intelligenza che supera le capacità umane. Naturalmente, la creazione di un sistema di intelligenza artificiale dotato di tale intelligenza senza adeguate garanzie solleva serie preoccupazioni.
Si dice che il Chief Scientist di OpenAI Ilya Sutskever, che fa anche parte del consiglio, abbia guidato questa iniziativa rivoluzionaria. Consente all'IA di utilizzare dati più puliti, generati dal computer, per affrontare problemi senza precedenti. Ciò implica che l'IA non viene addestrata su più iterazioni dello stesso problema, ma su informazioni che non sono direttamente correlate al problema in questione. Risolvere i problemi in questo modo, in genere quelli matematici o scientifici, richiede ragionamento, una caratteristica umana non tipicamente associata all'IA.
Chat, il prodotto di punta di OpenAI basato su Modello linguistico di grandi dimensioni GPT (LLM), potrebbe dare l'impressione di utilizzare il ragionamento per formulare le sue risposte, data la sua apparente intelligenza. Tuttavia, interagendo più da vicino con Chat, diventa evidente che si limita a ripetere a pappagallo ciò che ha appreso dalle enormi quantità di dati che ha elaborato, formulando previsioni per lo più accurate sulla costruzione di frasi coerenti pertinenti alla tua query. Il ragionamento non entra in gioco qui.
Le informazioni suggeriscono che questa svolta, a cui Altman potrebbe aver accennato in una recente conferenza, affermando: "A livello personale, solo nelle ultime due settimane, ho avuto modo di essere nella stanza, quando in un certo senso abbiamo spinto indietro il velo dell'ignoranza e spinto in avanti la frontiera della scoperta", ha inviato onde d'urto attraverso OpenAI.
Gestire la minaccia
Sebbene Chat al momento non mostri alcun segno di superintelligenza, è probabile che OpenAI stia facendo passi da gigante per incorporare parte di questa potenza nei suoi prodotti premium, come GPT-4 Turbo e i futuri "agenti intelligenti".
Tracciare un collegamento tra le recenti azioni del consiglio, inizialmente supportate da Sutskever, e la svolta della superintelligenza potrebbe sembrare inverosimile. La svolta segnalata è avvenuta mesi fa e ha portato Sutskever e un altro scienziato di OpenAI, Jan Leike, a creare un nuovo gruppo di ricerca OpenAI denominato "Superalignment", incaricato di ideare misure di salvaguardia per la superintelligenza.
In una svolta interessante, la stessa azienda pioniera nello sviluppo della superintelligenza sta costruendo contemporaneamente meccanismi per proteggerci da essa, che ricordano il dottor Frankenstein che armava gli abitanti dei villaggi con lanciafiamme.
Ciò che rimane ambiguo nel rapporto è se le apprensioni interne riguardanti la rapida progressione verso la superintelligenza abbiano portato direttamente al licenziamento di Altman. Forse, nel grande schema delle cose, è irrilevante.
Allo stato attuale, Altman è in procinto di riprendere il suo incarico presso OpenAI, il consiglio di amministrazione è stato ristrutturato e la ricerca per sviluppare (e proteggere) la superintelligenza continua.
Per coloro che trovano questi sviluppi sconcertanti, interagire con Chat per una spiegazione potrebbe rivelarsi illuminante.