OpenAI, організація-першопрохідник, яка стоїть за створенням Chat, посилює свої зобов'язання щодо безпеки штучного інтелекту (ШІ). Нещодавно компанія представила нову ініціативу, спрямовану на проактивне вирішення всього спектру потенційних ризиків, пов'язаних зі ШІ.
Цей новий підрозділ під назвою «Підготовленість» було оголошено 25 жовтня та знаменує значний прогрес у OpenAIпостійні зусилля щодо забезпечення безпечного розгортання ШІ. Команда зосередиться на виявленні та пом’якшенні потенційних загроз штучного інтелекту, що охоплюють хімічну, біологічну, радіологічну та ядерну сфери, а також ризики, пов’язані з індивідуальним переконанням, кібербезпекою та автономною реплікацією та адаптацією.
Команда підготовки під керівництвом Олександра Мадрі займатиметься вирішенням таких критичних питань, як потенційне зловживання прикордонними системами штучного інтелекту та загроза від зловмисників, які розгортають вкрадені моделі штучного інтелекту.
OpenAI визнає подвійний характер технології ШІ. Моделі Frontier AI, які перевищуватимуть можливості, наявні в даний час у найдосконаліших існуючих моделях, мають потенціал принести користь всьому людству", - пише фірма. Однак вона також визнає, що ці моделі несуть "все більш серйозні ризики".
Щоб орієнтуватися в цьому складному ландшафті, OpenAI прагне розробити надійний підхід до готовності до катастрофічних ризиків. Це зобов’язання поширюється на їхню стратегію найму персоналу, при цьому OpenAI активно шукає людей з різними технічними навичками, щоб приєднатися до своєї команди підготовки. Компанія також запустила конкурс на підготовку до штучного інтелекту, спрямований на запобігання катастрофічним зловживанням, пропонуючи $25,000 10 кредитів API за XNUMX найкращих заявок.
Оголошення групи готовності слідує за заявою OpenAI від липня 2023 року про її плани створити команду, яка займатиметься боротьбою з потенційними загрозами ШІ.
Оскільки штучний інтелект продовжує розвиватися, зростає занепокоєння щодо його потенційних ризиків. Деякі побоюються, що ШІ може перевершити людський інтелект, що призведе до непередбачуваних наслідків. Незважаючи на ці занепокоєння, такі компанії, як OpenAI, продовжують впроваджувати інновації у сфері штучного інтелекту, що викликало подальші дебати.
У травні 2023 року некомерційна організація Center for AI Safety оприлюднила відкритий лист щодо ризиків штучного інтелекту, закликаючи світову спільноту надати пріоритет зменшенню ризиків зникнення штучного інтелекту поряд з іншими ризиками суспільного масштабу, такими як пандемії та ядерна війна.