A OpenAI, organização pioneira por trás da criação do Chat, está intensificando seu compromisso com a segurança da inteligência artificial (IA). A empresa revelou recentemente uma nova iniciativa dedicada a abordar proativamente todo o espectro de riscos potenciais associados à IA.
Chamada de Preparação, esta nova divisão foi anunciada em 25 de outubro e marca um avanço significativo na OpenAIesforços contínuos para garantir a implantação segura da IA. A equipa concentrar-se-á na identificação e mitigação de potenciais ameaças de IA que abrangem os domínios químico, biológico, radiológico e nuclear, bem como nos riscos relacionados com a persuasão individualizada, a segurança cibernética e a replicação e adaptação autónomas.
A equipa de Preparação, sob a liderança de Aleksander Madry, irá lidar com questões críticas, como o potencial uso indevido de sistemas de IA de fronteira e a ameaça representada por agentes maliciosos que implementam pesos de modelos de IA roubados.
A OpenAI reconhece a natureza de dois gumes da tecnologia de IA. Os modelos de IA de fronteira, que excederão as capacidades atualmente presentes nos modelos mais avançados existentes, têm o potencial de beneficiar toda a humanidade”, escreve a empresa. No entanto, ela também admite que esses modelos carregam “riscos cada vez mais severos”.
Para navegar neste cenário complexo, a OpenAI está comprometida em desenvolver uma abordagem robusta para a preparação para riscos catastróficos. Este compromisso se estende à sua estratégia de recrutamento, com a OpenAI buscando ativamente indivíduos com diversas habilidades técnicas para se juntar à sua equipe de Preparação. A empresa também lançou um Desafio de Preparação de IA com o objetivo de prevenir o uso indevido catastrófico, oferecendo US$ 25,000 em créditos de API para as 10 principais inscrições.
O anúncio da equipe de Preparação segue a declaração da OpenAI de julho de 2023 sobre seus planos de estabelecer uma equipe dedicada a lidar com potenciais ameaças de IA.
À medida que a IA continua a evoluir, as preocupações em torno de seus riscos potenciais aumentaram. Alguns temem que a IA possa superar a inteligência humana, levando a consequências imprevistas. Apesar dessas preocupações, empresas como a OpenAI continuam a inovar no campo da IA, o que gerou mais debates.
Em Maio de 2023, a organização sem fins lucrativos Center for AI Safety emitiu uma carta aberta sobre o risco da IA, instando a comunidade global a dar prioridade à mitigação dos riscos de extinção da IA, juntamente com outros riscos à escala social, como pandemias e guerra nuclear.