財聯社10月12日報道（編集者：黄君芝）エヌビディアの“AI教父”として知られるヨシュア・ベンジオ（Yoshua Bengio）が最新の警告を発し、私たちは人間よりも強力なモンスター（人工知能）を作り出していると述べました。

インタビューで彼は、「知識は力を与え、その力をコントロールするのは誰であれ—人間以下であっても人間以上であっても、非常に非常に強力になるだろう」と述べました。

「全体的に言えば、技術はより多くの権力を望む人々によって利用されるだろう。例えば、彼らは経済的主導地位、軍事的主導地位、政治的主導地位を望んでいる。そのため、危険な方法で権力を集中させる可能性のある技術を作り出す前に、非常に注意が必要だ」と述べました。

一般投資家にとって、この学術的権威はおそらく黄仁勋やサム・アルトマンほど知名度はありませんが、彼の多層ニューラルネットワーク技術への貢献は顕著で、彼の“AI教父”の地位を確立しました。

60歳のベンジオはカナダのコンピュータサイエンティストで、ニューラルネットワークとディープラーニングアルゴリズムの研究に取り組んでいます。彼の革新的な研究は、我々が今日使用している人工知能モデルの道を切り拓きました。例えば、OpenAIのChatGPTやAnthropicのClaudeなどです。

2018年、ベンジオは2人の同僚—元Google副社長ジェフリー・ヒントン（2024年ノーベル物理学賞受賞者）とMetaの最高人工知能科学者イアン・ルカン（Yann LeCun）と共にチューリング賞（コンピュータ界のノーベル賞と称される）を受賞しました。2022年、ベンジオは世界で最も引用されたコンピュータサイエンティストとなりました。『Time』誌は彼を世界で最も影響力のある100人の一人に選出しました。

言えるでしょう、もしベンジオがいなかったら、人工知能は存在しなかったでしょう。

尽管協力してこの技術を創出したが、本吉奥は現在、人工知能分野では慎重な人物となっています。一方、投資家たちはAI分野に非常に熱意を示し、関連企業の株価を高水準に押し上げています。例えば、AIチップのリーダー企業であるエヌビディアの株価は、今年に至るまでに約180%上昇しましたが、s&p 500指数の上昇率はわずか22%に過ぎません。

以下は本吉奥が最新のインタビューで述べたいくつかの見解です：

人間レベルの人工知能に注目すべき理由は何でしょうか？

もしそれが悪人の手に渡った場合、それは非常に危険です。これらのツールは急速にテロリストを助けるだけでなく、民主主義的な国家機関を破壊したい人々にも役立つことができます。そしてもう1つの問題は、多くの科学者が指摘していることです。それは、今の学習方法でこれらのシステムを訓練しているが、私たちはこれらのシステムが自律的に（考えや行動をする）ようになる方法を抑制する必要があるかどうかを理解していないということです。従って、私たちは自分たちよりも強力なモンスターを作り出す可能性があります。

OpenAI、Meta、Google、アマゾン、どのAI巨人が正しい方向に進んでいると思いますか？

倫理的に言えば、私は最も優れた企業はAnthropic（主要な投資家にはアマゾンとGoogleが含まれています）だと考えています。しかし、彼らには偏見があると思います。なぜなら、経済構造において、彼らの生存は先駆的な企業であり、最初にAGI（汎用人工知能）を達成することが望ましいとされるためです。これは競争を意味し、企業間の軍拡競争となる可能性があり、公共安全が失敗する可能性があります。

Anthropicは、災害的な結果を回避する方法について非常に関心があることを示す多くのシグナルを発しています。彼らは最初の安全保障政策を提案した会社であり、人工知能が最終的に危険な能力を持つことがわかれば、その取り組みを中止することを約束しています。彼らはSB 1047を支持する唯一の企業であり、マスクの立場と同様です。

「SB 1047法案」は、「先端人工知能モデル安全イノベーション法案」の略称です。この法案は、AI開発者が自身の技術によって引き起こした深刻な被害に責任を負うよう求める最初の一群の法案の一つです。ただし、このAI規制の「マイルストーン」は、カリフォルニア州知事ニューサムによって最後の瞬間に拒否されました。

エヌビディアなどの人工知能株式の大幅な上昇についてどのように考えていますか？

私は非常に確信しているのは長期的な発展の軌跡です。したがって、長期投資すればかなり安全なベットです。一般市民を保護できなければ・・・（そうでない場合）すべてが崩壊する可能性がありますね。人工知能に対する社会の普及反対のためか、または真に破滅的な出来事が起こり、私たちの経済構造が崩壊するためか。

どちらの状況でも投資家にとって不利です。ですので、私は、投資家が賢明であれば、私たち全体の将来に害を及ぼす可能性のある誤りや災害を避けるために慎重に行動し、理解するべきだと考えています。

人工知能チップ競争についてどのように考えていますか？

私は、チップは明らかにこのパズルの重要な部分になりつつあると考えています。もちろん、それはボトルネックでもあります。いくつかのイベントが発生しても大量の計算ニーズは消えない可能性が非常に高いので、将来数年間の科学的進歩を予測できます。したがって、高度な人工知能チップを所有する能力は戦略的価値を持つでしょう - サプライチェーン内のすべてのステップが極めて重要になります。現時点では、そのようなことができる企業はほとんどありませんので、多様化を望みます。