米商務省 NIST 傘下の Center for AI Standards and Innovation (CAISI) は 5 月 5 日、Google DeepMind、Microsoft、xAI の 3 社とフロンティア AI モデルに関する事前評価協定を結んだと発表しました。展開前にサイバー・生物・化学兵器リスクを検査することが目的で、米政府による AI 安全性監督の枠組みが大きく拡張されます。
主なポイント
- 協定は 3 社が公開前モデルを CAISI に提供し、米政府が事前評価できる仕組みを定めた
- 評価対象は CBRN (化学・生物・放射線・核) リスクとサイバー攻撃能力。安全装置を一部解除した版を機密環境で検査
- CAISI はこれまでに 40 件超の評価を完了しており、未公開の最先端モデルも含まれる
- Trump 政権下で大統領令の見直しと並行して進む動きで、政府の AI 監督が前進する一方、Anthropic はこの 3 社協定の枠外
- 5 月 1 日には Pentagon が OpenAI・Google・Microsoft・Nvidia 等 8 社と AI 契約を結びつつ Anthropic を除外しており、政府ベンダーの「勝ち組」構図がより明確に