Chatの開発を牽引する先駆的な組織であるOpenAIは、人工知能（AI）の安全性への取り組みを強化しています。同社は最近、AIに関連するあらゆる潜在的リスクに積極的に対処するための新たなイニシアチブを発表しました。
Preparedness と呼ばれるこの斬新な部門は 25 月 XNUMX 日に発表され、 OpenAIAI の安全な導入を確保するための継続的な取り組み。 チームは、化学、生物学、放射線、核の領域にわたる潜在的な AI の脅威と、個別の説得、サイバーセキュリティ、自律的な複製と適応に関連するリスクの特定と軽減に集中していきます。
アレクサンダー・マドリー氏のリーダーシップの下、準備チームは、フロンティア AI システムの悪用の可能性や、盗まれた AI モデルの重みを展開する悪意のある攻撃者によってもたらされる脅威などの重要な問題に取り組む予定です。
OpenAIは、AI技術の両刃の剣であることを認識している。同社は「最先端のAIモデルは、現在最も先進的な既存モデルの能力を超え、全人類に利益をもたらす可能性がある」と記している。しかし、これらのモデルには「ますます深刻なリスク」が伴うことも認めている。
この複雑な状況を切り抜けるために、OpenAI は壊滅的なリスクへの備えに対する堅牢なアプローチの開発に取り組んでいます。この取り組みは採用戦略にも及んでおり、OpenAI は準備チームに加わる多様な技術スキルを持つ人材を積極的に求めています。同社はまた、壊滅的な悪用を防ぐことを目的とした AI 準備チャレンジを開始し、上位 25,000 件の応募に 10 ドルの API クレジットを提供しています。
準備チームの発表は、潜在的な AI の脅威に取り組むためのチームを設立する計画についての OpenAI の 2023 年 XNUMX 月の声明に続くものです。
AI が進化し続けるにつれて、その潜在的なリスクに関する懸念が高まっています。AI が人間の知能を超え、予期せぬ結果をもたらすのではないかと懸念する人もいます。こうした懸念にもかかわらず、OpenAI などの企業は AI 分野で革新を続けており、さらなる議論を巻き起こしています。
2023年XNUMX月、非営利団体Center for AI SafetyはAIリスクに関する公開書簡を発行し、パンデミックや核戦争などの他の社会規模のリスクと並んで、AIによる絶滅のリスクの軽減を優先するよう国際社会に訴えた。