OpenAI, la organización pionera detrás de la creación de Chat, refuerza su compromiso con la seguridad de la inteligencia artificial (IA). La firma presentó recientemente una nueva iniciativa dedicada a abordar proactivamente todo el espectro de riesgos potenciales asociados con la IA.
Esta novedosa división, denominada Preparedness, se anunció el 25 de octubre y marca un avance significativo en OpenAILos esfuerzos continuos de AI para garantizar el despliegue seguro de la IA. El equipo se concentrará en identificar y mitigar posibles amenazas de IA que abarcan los dominios químico, biológico, radiológico y nuclear, así como los riesgos relacionados con la persuasión individualizada, la ciberseguridad y la replicación y adaptación autónomas.
El equipo de Preparación, bajo el liderazgo de Aleksander Madry, abordará cuestiones críticas como el posible uso indebido de los sistemas de IA fronterizos y la amenaza que plantean los actores maliciosos que implementan pesos de modelos de IA robados.
OpenAI reconoce la naturaleza de doble filo de la tecnología de IA. “Los modelos de IA de vanguardia, que superarán las capacidades presentes actualmente en los modelos más avanzados existentes, tienen el potencial de beneficiar a toda la humanidad”, escribe la firma. Sin embargo, también admite que estos modelos conllevan “riesgos cada vez más graves”.
Para poder navegar en este panorama complejo, OpenAI se ha comprometido a desarrollar un enfoque sólido para la preparación ante riesgos catastróficos. Este compromiso se extiende a su estrategia de contratación, ya que OpenAI busca activamente personas con diversas habilidades técnicas para unirse a su equipo de preparación. La empresa también ha lanzado un desafío de preparación ante riesgos catastróficos, que tiene como objetivo prevenir el uso indebido de la inteligencia artificial y ofrece 25,000 10 dólares en créditos API a las XNUMX mejores propuestas.
El anuncio del equipo de preparación sigue a la declaración de OpenAI de julio de 2023 sobre sus planes de establecer un equipo dedicado a abordar posibles amenazas a la IA.
A medida que la IA continúa evolucionando, aumentan las preocupaciones sobre sus posibles riesgos. Algunos temen que la IA pueda superar la inteligencia humana, lo que provocaría consecuencias imprevistas. A pesar de estas preocupaciones, empresas como OpenAI siguen innovando en el campo de la IA, lo que ha suscitado más debates.
En mayo de 2023, la organización sin fines de lucro Center for AI Safety publicó una carta abierta sobre el riesgo de la IA, instando a la comunidad global a priorizar la mitigación de los riesgos de extinción de la IA junto con otros riesgos a escala social, como las pandemias y la guerra nuclear.