マスクの公開書簡：巨大AI実験を一時停止してください
広範囲にわたる研究で示され、一流のAIラボでも認められているように、人間の競争知能を備えたAIシステムは、社会と人類に深刻なリスクをもたらす可能性があります。広く支持されているアシロマーAI原則に記載されているように、 高度なAIは、地球上の生命の歴史に大きな変化をもたらす可能性があるため、それに見合った注意とリソースをもって計画し、管理する必要があります。残念ながら、このようなレベルの計画と管理は行われていません。ここ数ヶ月、AIラボは、作成者でさえ理解も予測も信頼もできない、これまで以上に強力なデジタルマインドの開発と展開をめぐって、制御不能な競争に巻き込まれています。
現代のAIシステムは、現在、一般的なタスクで人間の競争力が高まっています。私たちは自分自身に問いかけなければなりません： すべき 私たちは機械にプロパガンダや虚偽を情報チャンネルに殺到させました？ すべき やりがいのある仕事を含め、すべての仕事を自動化していますか？ すべき 私たちは人間以外の心を発達させ、最終的には人数を上回り、頭が良く、時代遅れになり、私たちに取って代わるかもしれません？ すべき 私たちは文明をコントロールできなくなる危険があります？そのような決定は、選挙で選ばれていない技術リーダーに委任してはいけません。 強力なAIシステムは、その効果がプラスになり、リスクが管理可能になると確信できたときにのみ開発すべきです。 この自信は十分に正当化されなければならず、システムの潜在的な影響が大きくなればなるほど高まるはずです。人工知能に関するOpenAIの最近の声明には、 「ある時点で、将来のシステムのトレーニングを開始する前に、独立したレビューを受けることが重要になるかもしれません。また、新しいモデルの作成に使用されるコンピューティングの増加率を制限するための最も高度な取り組みについて合意することも重要かもしれません。」 私たちは同感です。そのポイントは、今です。
そのため、 すべてのAIラボに、GPT-4よりも強力なAIシステムのトレーニングを少なくとも6か月間直ちに中止するよう呼びかけています。。この一時停止は公開され、検証可能で、すべての主要な関係者を含める必要があります。そのような一時停止をすぐに実行できない場合は、政府が介入してモラトリアムを制定すべきです。
AIラボと独立専門家は、この一時停止を利用して、独立した外部の専門家による厳格な監査と監督を受けた、高度なAIの設計と開発のための一連の共有安全プロトコルを共同で開発および実装する必要があります。これらのプロトコルは、それらに準拠しているシステムが合理的な疑いの余地なく安全であることを保証するはずです。これは ない つまり、AI開発全般の一時停止です。危険な競争から、出現する能力を備えた、これまで以上に大きく予測不可能なブラックボックスモデルへの一歩後退しただけです。
AIの研究開発は、今日の強力で最先端のシステムを、より正確で、安全で、解釈しやすく、透明で、堅牢で、整合性があり、信頼でき、忠実なものにすることに再び焦点を当てるべきです。
それと並行して、AI開発者は政策立案者と協力して、強固なAIガバナンスシステムの開発を劇的に加速する必要があります。これらには、最低でも、AIに特化した新しい有能な規制当局、高性能なAIシステムと大規模な計算能力プールの監視と追跡、本物と合成品を区別してモデルリークを追跡するのに役立つ出所と透かしのシステム、強固な監査と認証のエコシステム、AIによる危害に対する責任、技術的なAI安全研究への強力な公的資金、劇的な経済的および政治的混乱に対処するための十分なリソースを備えた機関を含める必要があります AIが引き起こす（特に民主主義にとって）。
人類はAIで豊かな未来を楽しむことができます。強力なAIシステムの作成に成功したので、今では「AIサマー」を楽しむことができます。そこでは、見返りを享受し、これらのシステムを設計してすべての人に明らかな利益をもたらし、社会に適応する機会を与えることができます。社会は、社会に壊滅的な影響を与える可能性のある他のテクノロジーに頭を悩ませています。ここでできます。秋に向けて準備不足で急ぐのではなく、AIの長い夏を楽しみましょう。
免責事項：このコミュニティは、Moomoo Technologies Inc.が教育目的でのみ提供するものです。
さらに詳しい情報
コメント
サインインコメントをする
Specializes in the technology industry, Equity research analyst. Thank you for following!
984フォロワー
43フォロー中
2306訪問者
フォロー
Tesla-55 : 私はムスクファンでテスラの投資家です。混乱しています。ロボットやファクトリーオートメーションの使用は、労働者や仕事に取って代わるのではないでしょうか。粗野労働のより肉体的な労働の面では.しかし、それでも労働者に取って代わっています。だから。人工知能は、その労働者の移動をホワイトカラー層にもたらすだけです。それ（AI）は改善されるかもしれないようです。今、管理と博士について話しているように、AIを使ってより良い意思決定を行うことができるかもしれません。
Peter Zhang Tesla-55 : ロボットは繰り返し同じ仕事をする。イーロンは人工知能を人間のように考える訓練をやめようとしている。
Tua Pui Kia : マスクは会社を乗っ取れなかったから今は恐怖を駆使して競合他社を追い越している
70617259 Tua Pui Kia : まさに。彼の失敗を示すもう一つの方法。
Carter West スレ主 Tesla-55 : いずれにせよ、AIモデルの進化はすでに止められず、一時停止は起こり得るリスクを評価し、直面するであろうことを人々に伝えるためだけです。
Carter West スレ主 70617259 : ご存知のように、マスクは人工知能ビューのエクスポートについて常に非常に懸念してきました。「一時停止」は終了を意味しないと思います。
美君 : aiは普通の人々の知恵をマスクのように身近で賢くもたらすからです