OpenAIとAnthropic、米国AI安全研究所に未公開モデルを提供へ

2024年8月30日(一部抜粋)

OpenAIとAnthropicが、米国政府のAI安全研究所に未公開の人工知能（AI）モデルを提供することで合意した。この画期的な動きは、AIの安全性と責任ある開発を推進する上で重要な一歩となる。OpenAIとAnthropicは、米国商務省の国立標準技術研究所（NIST）内に設置された米国AI安全研究所と正式な協力関係を結んだ。この合意により、両社は新たなAIモデルを一般公開前と公開後の両方で研究所に提供し、安全性評価を受けることになる。
この取り組みは、2023年に米Biden大統領が発した行政命令を受けて設立された米国AI安全研究所の活動の一環である。研究所は、企業や専門家のコンソーシアムと協力し、AIシステムの安全性ガイドラインと優れた実践方法を確立することを目指している。