OpenAI, pionierska organizacja stojąca za stworzeniem platformy Chat, zwiększa swoje zaangażowanie w bezpieczeństwo sztucznej inteligencji (AI). Firma niedawno ogłosiła nową inicjatywę, której celem jest proaktywne reagowanie na pełne spektrum potencjalnych zagrożeń związanych z AI.
Ten nowatorski dział, nazwany Gotowością, został ogłoszony 25 października i stanowi znaczący postęp w dziedzinie OpenAIciągłe wysiłki mające na celu zapewnienie bezpiecznego wdrożenia sztucznej inteligencji. Zespół skoncentruje się na identyfikacji i łagodzeniu potencjalnych zagrożeń związanych ze sztuczną inteligencją w obszarach chemicznych, biologicznych, radiologicznych i nuklearnych, a także zagrożeń związanych ze zindywidualizowaną perswazją, cyberbezpieczeństwem oraz autonomiczną replikacją i adaptacją.
Zespół ds. gotowości pod przewodnictwem Aleksandra Madry'ego zajmie się krytycznymi kwestiami, takimi jak potencjalne niewłaściwe wykorzystanie granicznych systemów sztucznej inteligencji oraz zagrożenie stwarzane przez złośliwe podmioty wdrażające skradzione wagi modeli sztucznej inteligencji.
OpenAI uznaje dwustronną naturę technologii AI. Modele Frontier AI, które przewyższą możliwości obecnie obecne w najbardziej zaawansowanych istniejących modelach, mają potencjał, aby przynieść korzyści całej ludzkości”, pisze firma. Jednak przyznaje również, że modele te niosą ze sobą „coraz poważniejsze ryzyko”.
Aby poruszać się po tym złożonym krajobrazie, OpenAI zobowiązuje się do opracowania solidnego podejścia do gotowości na katastrofalne ryzyko. To zobowiązanie obejmuje również strategię rekrutacyjną, a OpenAI aktywnie poszukuje osób o zróżnicowanych umiejętnościach technicznych, aby dołączyły do zespołu Preparedness. Firma uruchomiła również AI Preparedness Challenge, którego celem jest zapobieganie katastrofalnym nadużyciom, oferując 25,000 10 USD w kredytach API dla XNUMX najlepszych zgłoszeń.
Ogłoszenie o utworzeniu zespołu ds. gotowości następuje po oświadczeniu OpenAI z lipca 2023 r. dotyczącym planów utworzenia zespołu specjalizującego się w walce z potencjalnymi zagrożeniami ze strony sztucznej inteligencji.
W miarę jak AI nadal ewoluuje, obawy dotyczące potencjalnych zagrożeń rosną. Niektórzy obawiają się, że AI może przewyższyć inteligencję człowieka, co doprowadzi do nieprzewidzianych konsekwencji. Pomimo tych obaw firmy takie jak OpenAI nadal wprowadzają innowacje w dziedzinie AI, co wywołało dalszą debatę.
W maju 2023 r. organizacja non-profit Center for AI Safety wydała list otwarty w sprawie ryzyka związanego ze sztuczną inteligencją, wzywając społeczność globalną do nadania priorytetu łagodzeniu ryzyka wyginięcia spowodowanego sztuczną inteligencją obok innych zagrożeń na skalę społeczną, takich jak pandemie i wojna nuklearna.