OpenAI, l'organisation pionnière à l'origine de Chat, renforce son engagement en faveur de la sécurité de l'intelligence artificielle (IA). L'entreprise a récemment dévoilé une nouvelle initiative visant à gérer proactivement l'ensemble des risques potentiels liés à l'IA.
Baptisée Preparedness, cette nouvelle division a été annoncée le 25 octobre et marque une avancée significative dans OpenAIles efforts continus d' pour garantir le déploiement sûr de l'IA. L’équipe se concentrera sur l’identification et l’atténuation des menaces potentielles de l’IA couvrant les domaines chimiques, biologiques, radiologiques et nucléaires, ainsi que sur les risques liés à la persuasion individualisée, à la cybersécurité ainsi qu’à la réplication et à l’adaptation autonomes.
L’équipe de préparation, sous la direction d’Aleksander Madry, s’attaquera à des questions cruciales telles que l’utilisation abusive potentielle des systèmes d’IA frontaliers et la menace posée par des acteurs malveillants déployant des poids de modèles d’IA volés.
OpenAI reconnaît la nature à double tranchant de la technologie de l’IA. « Les modèles d’IA de pointe, qui dépasseront les capacités actuellement présentes dans les modèles existants les plus avancés, ont le potentiel de bénéficier à toute l’humanité », écrit l’entreprise. Cependant, elle concède également que ces modèles comportent « des risques de plus en plus graves ».
Pour s’orienter dans ce paysage complexe, OpenAI s’engage à développer une approche robuste de la préparation aux risques catastrophiques. Cet engagement s’étend à sa stratégie de recrutement, OpenAI recherchant activement des personnes possédant diverses compétences techniques pour rejoindre son équipe de préparation. L’entreprise a également lancé un défi de préparation à l’IA visant à prévenir les abus catastrophiques, en offrant 25,000 10 $ en crédits API aux XNUMX meilleures candidatures.
L'annonce de l'équipe de préparation fait suite à la déclaration d'OpenAI de juillet 2023 concernant son projet de créer une équipe dédiée à la lutte contre les menaces potentielles de l'IA.
L’IA continue d’évoluer, et les risques potentiels qu’elle présente sont de plus en plus préoccupants. Certains craignent que l’IA ne surpasse l’intelligence humaine, entraînant des conséquences imprévues. Malgré ces inquiétudes, des entreprises comme OpenAI continuent d’innover dans le domaine de l’IA, ce qui a suscité de nouveaux débats.
En mai 2023, l’organisation à but non lucratif Center for AI Safety a publié une lettre ouverte sur les risques liés à l’IA, exhortant la communauté mondiale à donner la priorité à l’atténuation des risques d’extinction de l’IA, aux côtés d’autres risques à l’échelle sociétale tels que les pandémies et la guerre nucléaire.