OpenAI, pionirska organizacija koja stoji iza stvaranja Chata, pojačava svoju predanost sigurnosti umjetne inteligencije (AI). Tvrtka je nedavno predstavila novu inicijativu posvećenu proaktivnom rješavanju cijelog spektra potencijalnih rizika povezanih s AI.
Nazvana Spremnost, ova nova podjela najavljena je 25. listopada i označava značajan napredak u OpenAIstalne napore da osigura sigurnu implementaciju AI. Tim će se usredotočiti na prepoznavanje i ublažavanje potencijalnih AI prijetnji koje obuhvaćaju kemijske, biološke, radiološke i nuklearne domene, kao i rizike povezane s individualiziranim uvjeravanjem, kibersigurnošću i autonomnom replikacijom i prilagodbom.
Tim za pripravnost, pod vodstvom Aleksandra Madryja, borit će se s kritičnim pitanjima kao što su potencijalna zlouporaba graničnih AI sustava i prijetnja koju predstavljaju zlonamjerni akteri koji koriste utege ukradenih AI modela.
OpenAI priznaje dvosmjernu prirodu AI tehnologije. Frontier AI modeli, koji će premašiti mogućnosti koje su trenutno prisutne u najnaprednijim postojećim modelima, imaju potencijal koristiti cijelom čovječanstvu,” piše tvrtka. Međutim, također se priznaje da ti modeli nose "sve ozbiljnije rizike".
Kako bi se snašao u ovom složenom krajoliku, OpenAI je predan razvoju robusnog pristupa spremnosti na rizik od katastrofe. Ova predanost proširuje se na njihovu strategiju zapošljavanja, pri čemu OpenAI aktivno traži pojedince s različitim tehničkim vještinama da se pridruže njihovom timu za pripravnost. Tvrtka je također pokrenula AI Preparedness Challenge s ciljem sprječavanja katastrofalne zlouporabe, nudeći 25,000 dolara u API kreditima za 10 najboljih prijava.
Najava tima za pripravnost slijedi nakon izjave OpenAI-ja iz srpnja 2023. o njegovim planovima za uspostavu tima posvećenog rješavanju potencijalnih prijetnji umjetne inteligencije.
Kako se umjetna inteligencija nastavlja razvijati, zabrinutost oko njezinih potencijalnih rizika je rasla. Neki strahuju da bi umjetna inteligencija mogla nadmašiti ljudsku inteligenciju, što bi dovelo do nepredviđenih posljedica. Unatoč tim zabrinutostima, tvrtke poput OpenAI-ja nastavljaju s inovacijama u području umjetne inteligencije, što je potaknulo daljnju raspravu.
U svibnju 2023. neprofitna organizacija Center for AI Safety objavila je otvoreno pismo o riziku od umjetne inteligencije, pozivajući globalnu zajednicu da kao prioritet stavi ublažavanje rizika od izumiranja od umjetne inteligencije uz druge rizike na društvenoj razini kao što su pandemije i nuklearni rat.