Chat을 개발한 선구적인 조직인 OpenAI는 인공지능(AI) 안전에 대한 노력을 강화하고 있습니다. OpenAI는 최근 AI와 관련된 모든 잠재적 위험을 사전에 해결하기 위한 새로운 이니셔티브를 발표했습니다.
대비(Preparedness)라고 불리는 이 새로운 부문은 25월 XNUMX일에 발표되었으며, 이는 OpenAIAI의 안전한 배포를 보장하기 위한 의 지속적인 노력. 팀은 개별화된 설득, 사이버 보안, 자율 복제 및 적응과 관련된 위험뿐만 아니라 화학, 생물학, 방사선학 및 핵 영역에 걸친 잠재적인 AI 위협을 식별하고 완화하는 데 집중할 것입니다.
Aleksander Madry가 이끄는 준비 팀은 프론티어 AI 시스템의 잠재적인 오용 및 도난당한 AI 모델 가중치를 배포하는 악의적인 행위자가 제기하는 위협과 같은 중요한 질문을 해결하기 위해 씨름할 것입니다.
OpenAI는 AI 기술의 양면성을 인정합니다. 현재 가장 진보된 기존 모델에 존재하는 역량을 능가하는 프런티어 AI 모델은 모든 인류에게 이로운 잠재력을 가지고 있습니다."라고 회사는 썼습니다. 그러나 이러한 모델이 "점점 더 심각한 위험"을 안고 있다는 점도 인정합니다.
이 복잡한 환경을 탐색하기 위해 OpenAI는 재앙적 위험 대비에 대한 강력한 접근 방식을 개발하는 데 전념합니다. 이러한 헌신은 채용 전략으로 확장되며 OpenAI는 다양한 기술 능력을 가진 개인을 적극적으로 모집하여 Preparedness 팀에 합류시킵니다. 이 회사는 또한 재앙적 오용을 방지하기 위한 AI Preparedness Challenge를 시작하여 상위 25,000개 제출물에 10달러의 API 크레딧을 제공합니다.
준비팀의 발표는 OpenAI가 2023년 XNUMX월에 잠재적인 AI 위협에 대처하기 위한 전담팀을 구성한다는 계획을 발표한 데 이어 이뤄졌습니다.
AI가 계속 진화함에 따라 잠재적 위험에 대한 우려가 커지고 있습니다. 어떤 사람들은 AI가 인간의 지능을 능가하여 예상치 못한 결과를 초래할 수 있다고 우려합니다. 이러한 우려에도 불구하고 OpenAI와 같은 회사는 AI 분야에서 혁신을 계속하고 있으며, 이는 더 많은 논쟁을 불러일으켰습니다.
2023년 XNUMX월 비영리단체인 AI 안전센터(Center for AI Safety)는 AI 위험에 대한 공개 서한을 발표하여 전 세계 커뮤니티에 전염병, 핵전쟁 등 다른 사회적 규모의 위험과 함께 AI로 인한 멸종 위험을 완화하는 데 우선순위를 둘 것을 촉구했습니다.