Ang OpenAI, ang trailblazing na organisasyon sa likod ng paglikha ng Chat, ay pinapataas ang pangako nito sa kaligtasan ng artificial intelligence (AI). Ang kumpanya ay naglabas kamakailan ng isang bagong inisyatiba na nakatuon sa aktibong pagtugon sa buong spectrum ng mga potensyal na panganib na nauugnay sa AI.
Tinaguriang Preparedness, ang novel division na ito ay inihayag noong Oktubre 25 at minarkahan ang isang makabuluhang pagsulong OpenAIpatuloy na pagsisikap ni upang matiyak ang ligtas na pag-deploy ng AI. Ang koponan ay magtutuon ng pansin sa pagtukoy at pagpapagaan ng mga potensyal na banta ng AI na sumasaklaw sa kemikal, biyolohikal, radiological, at nuclear na mga domain, pati na rin ang mga panganib na nauugnay sa indibidwal na panghihikayat, cybersecurity, at autonomous na pagtitiklop at pagbagay.
Ang pangkat ng Preparedness, sa ilalim ng pamumuno ni Aleksander Madry, ay haharap sa mga kritikal na tanong tulad ng potensyal na maling paggamit ng mga frontier AI system at ang banta ng mga malisyosong aktor na nagde-deploy ng mga ninakaw na timbang ng modelo ng AI.
Kinikilala ng OpenAI ang dalawahang talim ng teknolohiya ng AI. Ang mga modelo ng Frontier AI, na lalampas sa mga kakayahan na kasalukuyang naroroon sa mga pinaka-advanced na umiiral na mga modelo, ay may potensyal na makinabang sa lahat ng sangkatauhan," sulat ng kompanya. Gayunpaman, inaamin din nito na ang mga modelong ito ay nagdadala ng "mas matitinding panganib."
Upang ma-navigate ang kumplikadong landscape na ito, ang OpenAI ay nakatuon sa pagbuo ng isang matatag na diskarte sa paghahanda sa panganib sa sakuna. Ang pangakong ito ay umaabot sa kanilang diskarte sa recruitment, kung saan ang OpenAI ay aktibong naghahanap ng mga indibidwal na may magkakaibang teknikal na kasanayan upang sumali sa kanilang Preparedness team. Ang kumpanya ay naglunsad din ng isang AI Preparedness Challenge na naglalayong pigilan ang sakuna na maling paggamit, na nag-aalok ng $25,000 sa mga API credit sa nangungunang 10 pagsusumite.
Ang anunsyo ng pangkat ng Preparedness ay kasunod ng pahayag ng OpenAI noong Hulyo 2023 tungkol sa mga plano nitong magtatag ng isang koponan na nakatuon sa pagharap sa mga potensyal na banta ng AI.
Habang patuloy na umuunlad ang AI, lumaki ang mga alalahanin sa mga potensyal na panganib nito. Ang ilan ay natatakot na ang AI ay maaaring malampasan ang katalinuhan ng tao, na humahantong sa hindi inaasahang mga kahihinatnan. Sa kabila ng mga alalahaning ito, ang mga kumpanya tulad ng OpenAI ay patuloy na nagbabago sa larangan ng AI, na nagdulot ng karagdagang debate.
Noong Mayo 2023, ang nonprofit na organisasyon na Center for AI Safety ay naglabas ng isang bukas na liham tungkol sa AI risk, na hinihimok ang pandaigdigang komunidad na bigyang-priyoridad ang pagbabawas sa mga panganib ng pagkalipol mula sa AI kasama ng iba pang mga panganib sa antas ng lipunan tulad ng mga pandemya at digmaang nuklear.