OpenAI, organizația-mamă a Chat, pare să fie în pragul unei realizări monumentale – rezolvarea dilemei „superinteligenței”. Cu toate acestea, această potențială descoperire aduce cu sine implicații profunde pentru viitorul umanității.
Demiterea bruscă și renumirea ulterioară a co-fondatorului și CEO-ului OpenAI, Sam Altman, a fost un subiect de multe discuții în lumea tehnologiei. Noi perspective asupra catalizatorului acestei mișcări continuă să apară, cu un raport al The Information care atribuie tulburările interne unui progres semnificativ în IA generativă. Această dezvoltare ar putea deschide calea pentru apariția „superinteligenței” în acest deceniu sau chiar mai devreme.
„Superintelligence”, așa cum sugerează termenul, se referă la o inteligență care depășește capacitățile umane. Desigur, crearea unui sistem AI care posedă o astfel de inteligență fără garanții adecvate ridică serioase îngrijorări.
Se spune că cercetătorul șef al OpenAI Ilya Sutskever, care face parte din consiliu, ar fi condus această inițiativă inovatoare. Acesta permite AI să utilizeze date mai curate, generate de computer pentru a rezolva probleme fără precedent. Acest lucru implică faptul că AI nu este antrenat pe mai multe iterații ale aceleiași probleme, ci pe informații care nu sunt direct legate de problema în cauză. Rezolvarea problemelor în acest mod, de obicei cele matematice sau științifice, necesită raționament - o trăsătură umană care nu este asociată de obicei cu IA.
Chat, produsul emblematic al OpenAI, susținut de Model de limbă mare GPT (LLM), ar putea da impresia că folosește raționamentul pentru a-și formula răspunsurile, având în vedere inteligența sa aparentă. Cu toate acestea, la o interacțiune mai apropiată cu Chat, devine evident că acesta doar repetă ceea ce a învățat din cantitățile enorme de date pe care le-a procesat, făcând predicții în mare parte precise despre construirea de propoziții coerente relevante pentru interogarea dvs. Raționamentul nu intră în joc aici.
Informația sugerează că această descoperire, despre care Altman a făcut-o aluzie într-o conferință recentă, afirmând: „Într-o notă personală, doar în ultimele două săptămâni, am ajuns să fiu în cameră, când împingem un fel de văl al ignoranței înapoi și frontiera descoperirii înainte”, a trimis unde de șoc prin OpenAI.
Gestionarea amenințării
Deși Chat nu prezintă în prezent semne de superinteligență, este probabil ca OpenAI să facă progrese pentru a încorpora o parte din această putere în produsele sale premium, cum ar fi GPT-4 Turbo și viitorii „agenți inteligenți”.
Realizarea unei legături între acțiunile recente ale consiliului de administrație, susținute inițial de Sutskever, și descoperirea superinteliinței ar putea părea exagerat. Descoperirea raportată a avut loc cu luni în urmă și l-a determinat pe Sutskever și un alt om de știință OpenAI, Jan Leike, să înființeze un nou grup de cercetare OpenAI numit „Superalignment”, însărcinat cu conceperea de garanții pentru superintelligence.
Într-o întorsătură interesantă, însăși compania care este pionierat în dezvoltarea superinteligenței construiește simultan mecanisme care să ne ferească de aceasta, amintind de doctorul Frankenstein care înarmează sătenii cu aruncătoare de flăcări.
Ceea ce rămâne ambiguu din raport este dacă aprehensiunile interne legate de progresia rapidă către superintelligence au condus direct la demiterea lui Altman. Poate că, în marea schemă a lucrurilor, este irelevant.
În starea actuală, Altman este pe cale să-și reia funcția la OpenAI, consiliul de administrație a fost restructurat, iar încercarea de a dezvolta – și de a se proteja împotriva – persistă.
Pentru cei care consideră aceste evoluții derutante, interacțiunea cu Chat pentru o explicație s-ar putea dovedi edificatoare.