OpenAI, mateřská organizace Chatu, se zdá být na pokraji monumentálního úspěchu – vyřešení hádanky „superinteligence“. Tento potenciální průlom však s sebou nese hluboké důsledky pro budoucnost lidstva.
Náhlé propuštění a následné opětovné jmenování spoluzakladatele a generálního ředitele OpenAI Sama Altmana bylo tématem mnoha diskuzí v technologickém světě. Stále se objevují nové poznatky o katalyzátoru tohoto kroku, přičemž zpráva The Information přisuzuje vnitřní nepokoje významnému pokroku v generativní umělé inteligenci. Tento vývoj by mohl potenciálně připravit cestu pro vznik „superinteligence“ během tohoto desetiletí nebo ještě dříve.
„Superinteligence“, jak tento termín napovídá, označuje inteligenci, která převyšuje lidské schopnosti. Vytvoření systému umělé inteligence disponujícího takovou inteligencí bez adekvátních záruk přirozeně vyvolává vážné obavy.
Tuto převratnou iniciativu prý vedl hlavní vědec OpenAI Ilya Sutskever, který také působí v představenstvu. Umožňuje umělé inteligenci využívat čistší, počítačem generovaná data k řešení bezprecedentních problémů. To znamená, že AI není trénována na více iteracích stejného problému, ale na informacích, které přímo nesouvisí s daným problémem. Řešení problémů tímto způsobem, typicky matematických nebo vědeckých, vyžaduje uvažování – což je lidská vlastnost, která se s umělou inteligencí obvykle nepojí.
Chat, vlajkový produkt OpenAI, poháněný technologií Velký jazykový model GPT (LLM) by vzhledem ke své zjevné inteligenci mohl působit dojmem, že k formulování svých odpovědí používá uvažování. Po bližší interakci s Chatem se však ukáže, že pouze papouškuje to, co se naučil z obrovského množství zpracovaných dat, a vytváří většinou přesné předpovědi ohledně sestavování souvislých vět relevantních k vašemu dotazu. Uvažovaní zde nehraje roli.
Informace naznačují, že tento průlom, který mohl Altman naznačit na nedávné konferenci, když uvedl: „Na osobní poznámku jsem se právě v posledních několika týdnech dostal do místnosti, když jsme tak trochu tlačili na jakýsi závoj nevědomosti zpět a hranice objevu vpřed,“ vyslalo přes OpenAI šok.
Zvládání hrozby
I když Chat v současné době nevykazuje žádné známky superinteligence, je pravděpodobné, že OpenAI dělá kroky k začlenění části této síly do svých prémiových produktů, jako je GPT-4 Turbo a budoucí „inteligentní agenti“.
Kreslení spojitosti mezi nedávnými akcemi představenstva, zpočátku podporovanými Sutskeverem, a průlomem v oblasti superinteligence se může zdát přitažené za vlasy. Hlášený průlom nastal před měsíci a vedl Sutskevera a dalšího vědce z OpenAI, Jana Leikeho, k založení nové výzkumné skupiny OpenAI s názvem 'Superalignment', která má za úkol navrhnout bezpečnostní opatření pro superinteligenci.
Zajímavým zvratem je, že právě společnost, která je průkopníkem vývoje superinteligence, současně konstruuje mechanismy, které nás před ní chrání, připomínající doktora Frankensteina vyzbrojujícího vesničany plamenomety.
Ze zprávy zůstává nejednoznačné, zda vnitřní obavy týkající se rychlého postupu k superinteligenci přímo vedly k Altmanovu propuštění. Možná je to ve velkém schématu věcí irelevantní.
V současné době je Altman na cestě k obnovení své pozice v OpenAI, správní rada byla restrukturalizována a snaha o rozvoj – a ochranu před – superinteligence přetrvává.
Pro ty, kteří považují tento vývoj za matoucí, by se vysvětlení mohlo ukázat jako poučné pomocí Chatu.