OpenAI及甲骨文则指出，它们已经同意向人工智能安全研究所提供新模型的测试权利，在通过测试后，模型再面向公众发布。OpenAIおよびOracle、両社のAI業界のリーダー企業は、モデルのリリース前にセキュリティテストを実施するために米国人工知能セキュリティ研究所と提携することを発表しました。米国人工智能安全研究所は、これが人工知能の将来を管理する上での重要な節目であり、将来的にはすべての主要なモデルのリリース前後のセキュリティテストに参加することになります。
財通社8月30日のニュース（編集 マラン）、米国の人工知能業界は、政府の指導を徐々に受け入れています。木曜日、OpenAIおよびOracleは米国人工知能セキュリティ研究所との提携契約に署名することを発表しました。
この研究機関は、米国商務省の国立標準技術研究所に属しています。同機関は、各社の主要な新しいモデルが公開される前および後に、これらのモデルの使用権を取得することができますと、プレスリリースで述べています。
OpenAIおよびOracleは、新しいモデルのテスト権限を人工知能セキュリティ研究所に提供することに同意したと述べ、テストに合格したモデルは一般に公開されると述べています。
OpenAIの最高経営責任者であるオルトマンは、同社のモデルに事前リリーステストを実施するために人工知能セキュリティ研究所と合意したことを喜んでいます。
同社の最高戦略責任者であるJason Kwonも、同社が米国のAI業界が責任を持って人工知能を開発するために重要な役割を果たすと信じていること、そして同様の管理フレームワークを他の国々に提供するために研究所と共に働きたいと述べています。
進化する監視
米国人工知能セキュリティ研究所は2023年に設立され、バイデンが米国史上初の人工知能行政命令を発令してからわずか数日しか経っていません。この研究所は、人工知能の評価、指導、および研究を行うための重要な機関であり、ホワイトハウスのキーエージェントです。
米国の人工知能セキュリティ研究所所長のエリザベス・ケリーは、OpenAIとOracleとの協定はただの始まりであり、人工知能の将来を管理する重要な節目です。
そして、今週水曜日には、アメリカのテクノロジーの最先端であるカリフォルニア州議会が疑わしい人工知能セキュリティ法案を可決しました。この法案は、特定の規模の人工知能モデルに対してセキュリティテストを行うことを、企業に義務付け、他の保護策を提供することを求めています。
この法案の可決により、多くのテクノロジー企業が規制当局に協力することを迫られ、可能な限りの創造の自由を得るために投降することになるかもしれません。
また、OpenAIは安全性の問題で常に批判されています。同社の元従業員であるダニエル・ココタイロ氏によれば、この数ヶ月間、同社ではゆっくりとでも確実に離職が増えており、人工知能の長期的なリスクに関心を持っていたOpenAIの従業員の半数が退職しました。
これはOpenAI内部で新しいモデルのセキュリティ性能を無視する傾向が広がり、内部の不満を引き起こしていることを証明している可能性があります。これはもちろん、アメリカ政府の関心も引き起こしており、OpenAIがこの時点で米国人工知能セキュリティ研究所との協力を選ぶことは、外界の疑念を払拭するための最善の広報手段の1つかもしれません。