Chatの親組織であるOpenAIは、「超知能」という難問を解決し、記念碑的な成果を成し遂げようとしているようだ。しかし、この潜在的なブレークスルーは、人類の未来に重大な影響を与える可能性がある。
OpenAI の共同創設者兼 CEO であるサム・アルトマン氏の突然の解雇とその後の再任は、テクノロジー業界で大きな話題となっている。この動きのきっかけについて新たな知見が次々と出ており、The Information のレポートでは、内部の混乱は Generative AI の大きな進歩によるものだとしている。この発展は、この 10 年以内、あるいはそれより早く「スーパーインテリジェンス」の出現への道を開く可能性がある。
「超知性」とは、その言葉が示すとおり、人間の能力を超えた知性を指します。 当然のことながら、このような知能を備えた AI システムを適切な保護策なしで構築することは、深刻な懸念を引き起こします。
この画期的な取り組みを主導したのは、OpenAI の主任科学者で理事も務める Ilya Sutskever 氏だと言われている。この取り組みにより、AI はコンピューターで生成されたよりクリーンなデータを活用して、前例のない問題に取り組むことができるようになる。これは、AI が同じ問題を何度も繰り返して学習するのではなく、目の前の問題に直接関係のない情報で学習することを意味する。この方法で問題 (通常は数学的または科学的な問題) を解決するには、推論能力が求められる。これは通常 AI と関連しない人間の特性である。
OpenAIの主力製品であるチャットは、 GPT 大規模言語モデル 法学修士（LLM）のChatは、その知性から見て、返答を論理的に組み立てている印象を与えるかもしれません。しかし、Chatとより深くやり取りしてみると、膨大な量のデータ処理から学んだことをただ繰り返しているだけであり、質問に関連する一貫性のある文章を構成することについて、ほぼ正確な予測を行っていることが明らかになります。ここでは論理的な思考は機能しません。
インフォメーションは、アルトマン氏が最近の会議で「個人的な話ですが、ここ数週間、私は、無知のベールをはがし、発見のフロンティアを前進させるような場にいることができました」と述べてこの画期的な進歩について示唆していたかもしれないが、この進歩はOpenAI全体に衝撃を与えたと示唆している。
脅威への対処
Chat は現時点では超知能の兆候を示していないが、OpenAI は、このパワーの一部を GPT-4 Turbo や将来の「インテリジェント エージェント」などのプレミアム製品に組み込むべく大きく前進していると思われる。
当初はスツケヴァー氏が支持していた最近の理事会の行動と超知能のブレークスルーとの関連を指摘するのは無理があるように思えるかもしれない。報道されたブレークスルーは数か月前に起こったもので、スツケヴァー氏ともう一人の OpenAI 科学者であるヤン・ライケ氏は、超知能の安全策を考案する任務を負った「スーパーアラインメント」という新しい OpenAI 研究グループを設立した。
興味深い展開として、超知性の開発を先駆的に進めているまさにその企業が、同時に私たちを超知性から守るためのメカニズムを構築しており、これはフランケンシュタイン博士が村人に火炎放射器を装備していることを彷彿とさせます。
この報告書で曖昧なままなのは、超諜報機関への急速な進展をめぐる内部の不安がアルトマン氏の解任に直接つながったかどうかだ。 おそらく、物事の大局的には、それは無関係です。
現状では、アルトマン氏はOpenAIでの職務に復帰する方向で、取締役会は再編され、超知能を開発し、それに対抗する探求は続いている。
こうした展開に困惑している人にとっては、チャットで説明を聞くと啓発されるかもしれません。