米国 商務省傘下のAI標準・イノベーションセンター(the Center for AI Standards and Innovation/CAISI)は5日(米国時間)、Google DeepMind、Microsoft、xAIとの新たな協定を発表した。各社の最先端モデルについて、一般公開前に政府がその評価や研究を行なえるようにする。
CAISIは政府とAI開発企業の窓口となり、情報共有や最新モデルの評価を担う。政府は、国家安全保障に関連する能力やリスクを評価するため、開発企業側は、安全対策を軽減/解除したモデルをCAISIに提供する場合もある。政府各機関の評価担当者が評価に参加し、CAISIによるTRAINSタスクフォースを通じ、定期的にフィードバックを行なう。
OpenAIとAnthropicについては、2024年8月に同様の契約を締結している。
Anthropicが最新のフロンティアモデル「Claude Mythos」をセキュリティや安全保障リスクの観点から「非公開」とするなど、AIモデルの性能向上にあわせて、そのリスク管理にも注目が集まっている。CAISIの声明でも、「最先端のAIとその国家安全保障への影響を理解するために、独立した厳格な測定科学が不可欠」と説明しており、情報共有とともに政府がAIの能力や国際競争の状況を把握することも狙いとしている。