OpenAI, материнська організація Chat, схоже, знаходиться на порозі монументального досягнення – вирішення загадки «суперінтелекту». Однак цей потенційний прорив має глибокі наслідки для майбутнього людства.
Раптове звільнення та наступне повторне призначення співзасновника та генерального директора OpenAI Сема Альтмана стало темою для багатьох дискусій у світі технологій. Продовжують з’являтися нові відомості про каталізатор цього кроку, а у звіті The Information внутрішні потрясіння пояснюються значним прогресом Generative AI. Цей розвиток потенційно може прокласти шлях до появи «суперінтелекту» протягом цього десятиліття або навіть раніше.
«Суперінтелект», як випливає з цього терміну, відноситься до інтелекту, який перевищує людські можливості. Природно, створення системи штучного інтелекту з таким інтелектом без відповідних гарантій викликає серйозні занепокоєння.
Кажуть, що головний науковий співробітник OpenAI Ілля Суцкевер, який також є членом правління, очолив цю новаторську ініціативу. Це дозволяє штучному інтелекту використовувати чистіші комп’ютерні дані для вирішення безпрецедентних проблем. Це означає, що штучний інтелект навчається не на кількох ітераціях однієї проблеми, а на інформації, яка безпосередньо не пов’язана з проблемою. Вирішення проблем таким чином, як правило, математичних або наукових, вимагає міркувань – людської риси, яка зазвичай не асоціюється з ШІ.
Chat, флагманський продукт OpenAI, що працює на базі Велика мовна модель GPT (LLM), може створити враження, що він використовує міркування для формулювання своїх відповідей, враховуючи свій очевидний інтелект. Однак, після ближчої взаємодії з Chat, стає очевидним, що він просто повторює те, що дізнався з величезної кількості оброблених даних, роблячи здебільшого точні прогнози щодо побудови зв'язних речень, що стосуються вашого запиту. Міркування тут не грають ролі.
The Information припускає, що цей прорив, на який Альтман, можливо, натякнув на нещодавній конференції, заявивши: «Особисто, лише за останні пару тижнів я був у кімнаті, коли ми ніби відсунули завісу невігластва назад і межі відкриттів вперед», сколихнув OpenAI.
Подолання загрози
Хоча Chat наразі не демонструє жодних ознак суперінтелекту, ймовірно, OpenAI робить кроки для включення частини цієї потужності у свої преміальні продукти, такі як GPT-4 Turbo та майбутні «інтелектуальні агенти».
Встановлення зв’язку між останніми діями правління, спочатку підтриманими Суцкевером, і проривом у сфері суперінтелекту може здатися надуманим. Прорив, про який повідомляється, стався кілька місяців тому, і змусив Суцкевера та іншого вченого OpenAI, Яна Лейке, створити нову дослідницьку групу OpenAI під назвою «Superalignment», завданням якої було розробити гарантії для суперінтелекту.
Цікавим поворотом є те, що сама компанія-піонер у розробці суперінтелекту одночасно створює механізми, щоб захистити нас від нього, нагадуючи доктора Франкенштейна, який озброює селян вогнеметами.
Що залишається неоднозначним у звіті, так це те, чи внутрішні побоювання навколо швидкого прогресу до суперінтелекту безпосередньо призвели до звільнення Альтмана. Можливо, у великій схемі речей це не має значення.
На сьогоднішній день Альтман має намір повернутися на свою посаду в OpenAI, правління було реорганізовано, а прагнення розвивати — і захищатися — від суперінтелекту продовжується.
Для тих, хто вважає ці події незрозумілими, звернення до Chat для отримання пояснень може виявитися повчальним.