財聯社1月6日の報道（編集 周子意）によると、OpenAIのCEOサム・オルトマンは1月6日の最新の個人ブログで、OpenAIは汎用人工知能（AGI）を構築する自信を持っており、会社はすでに目標を「超知能（superintelligence）」に向け始めていると述べた。

オルトマンはさらに「私たちは今の製品を愛しているが、私たちは輝かしい未来のためにここにいる」と述べた。

現時点では、今日の人工知能技術には重大な技術的限界があり、明らかなエラーがあるだけでなく、モデルの訓練も非常に高価である。

しかし、オルトマンはすべてを克服し、すぐに解決できる自信を持っているようだ。オルトマンは「私たちは非常に自信を持っており、今後数年内にすべての人が私たちが見ているものを見ることになるだろう。そして、広範な利益と権限を最大限に拡大しながら、非常に注意深く行動することが重要である」と語った。

汎用人工知能の構築

汎用人工知能（AGI）の構築は、OpenAIにとって大きな目標であり、たとえ汎用人工知能が現在は曖昧な用語であっても。OpenAIはそれに独自の定義を持っており、最も経済的価値のある仕事において人間を上回る高度に自律的なシステムである。

一方、OpenAIとその密接な投資パートナーであるマイクロソフトの間では、AGIの別の定義があり、少なくとも1000億ドルの利益を生む人工知能システムである。以前の合意に基づき、OpenAIがこの目標を達成した場合、マイクロソフトはもはやその技術を利用することができなくなる。

最新のブログで、オルトマンは彼が指している汎用人工知能の定義について明確には述べていないが、前者の可能性が最も高いように思える。オルトマンは「2025年までに、AIエージェント（特定のタスクを自律的に実行できる人工知能システム）が労働力に参入し、企業の生産物を実質的に変えるのを目にするかもしれない」と書いている。

オルトマンは「我々は引き続き、素晴らしいツールを人々の手に渡すことで、偉大で広範囲にわたる結果を生み出すことができると信じている」と指摘した。

「スーパーインテリジェンス」のビジョン

スーパーインテリジェンスについて言及する際、オルトマンは文中で、OpenAIが真の意味でのスーパーインテリジェンスに目標をシフトし始めていると書いている。「スーパーインテリジェンスがあれば、他のすべてのことをすることができる。スーパーインテリジェンスタoolは科学の発見と革新を大いに加速させ、私たち自身の能力をはるかに超え、多くの富と繁栄をもたらすことができる。」

これまでにOpenAIは、スーパーインテリジェンスを持つ世界への成功裏な移行について何度も文章を執筆してきた。たとえば、2023年12月のOpenAIの一つの記事では、「スーパーインテリジェンスは今後の10年間で発展できると信じている」と述べている。2024年9月、オルトマンはスーパーインテリジェンスが「数千日後」に現れる可能性があり、その到来は「人々が想像するよりも強烈である」と指摘した。

OpenAIが彼らが考えるスーパーインテリジェンスに焦点を移すにつれて、人々はその会社がスーパーインテリジェンスシステムの安全な運用を確保するために十分な資源を投入することを望んでいる。

しかし、安全な運用が現在の最大の問題であるように思われる。人間は潜在的なスーパーインテリジェンス人工知能システムを操控または制御できないようで、制御を失うのを防ぐことができない。これを提起したOpenAI自身も解決策を持っていない。

その会社は何度も「人間は私たちよりはるかに賢い人工知能システムを信頼して監督することができない、したがって我々の現在の調整技術はスーパーインテリジェンスに拡張できない」と指摘しており、これは「保証されない」ことが遠く及ばない。