Anthropic、METRの6人に従業員相当のアクセスを付与し評価公開を容認

Anthropicは2026年10月15日、フロンティアAIモデルを評価する非営利団体METRの6人に従業員に準じるアクセスを提供し、METRがAnthropicのリスク水準や安全慣行の評価結果を公開できるようにしたと発表しました。Anthropicは公開を拒否できず、事前定義された限定カテゴリの情報について削除を要求できるだけです。

AnthropicはClaudeを開発するAI安全性・研究企業で、METRはAIモデルの能力とリスクを評価し、研究や評価結果を公開する研究組織です。

何が新しいか

AnthropicはMETRの6人に、会社支給のハードウェア、オフィススペース、社内ツール・システムへのアクセスを付与しました。アクセスの水準は、Anthropic自身のリスク評価チームと概ね同等です。顧客データ、弁護士・依頼者間秘匿特権情報、モデルアーキテクチャ情報などの限られたカテゴリを除き、Anthropicの従業員はアラインメントリスクに取り組む同僚と同じようにMETRのチームと情報を共有するよう促されます。

METRはリスク水準、インシデント、慣行に関する分析を公開します。Anthropicが削除を求めた場合でも、METRは削除内容を明かさない範囲で、削除について公に説明し、それが正当だったかについての見解を公表できます。METRとの取り組みは強制力のある契約のもとで動く小規模チームに限定され、Anthropicの別プロジェクトに関わる研究者を含む他のMETR従業員はこの作業から隔離されます。

評価者アクセスの3層

Anthropicは評価者向けに3段階のアクセス層を整備しています。

層 アクセス 公開権限
第1層 対象を限定したリスク調査。提供範囲はAnthropicが決定 Anthropicの承認を得て公開
第2層 より多くの情報 承認なしで公開可。特定カテゴリの削除要求あり、削除の正当性について見解を公表可
第3層(METR) 従業員相当の埋め込み型アクセス 第2層と同様

他の評価パートナー

  • SecureBio: 現在第1層です。前回のRisk Reportのパイロットレビューを完了・公開したうえで、2026年8月Risk Reportの化学・生物兵器章をレビュー中です。完了後、Anthropicはアクセスと公開権限を拡大した案件への移行を検討します。
  • Accenture・Faculty: モデル評価・レッドチーミング、アラインメント評価、安全策のテスト、組織間の能力構築を含むパートナーシップを進めています。
  • Hugging Face: 初期協議中の組織の一つです。

背景と意味

Anthropicは前月、第三者評価の強化を約束し、外部の独立監査者・評価者との連携を盛り込んだWhite House Accord on Super Intelligenceに署名しています。同社は、悪用や商業上の機密(計算資源や訓練情報など)を理由にすべてを公開できない代わりに、評価者へ深いアクセスを与え、根拠と結論を公表してもらう方針を取ります。評価者の要件として、専門性(alignment fakingなど評価の失敗要因の理解を含む)、独立性(株式保有や財務・運営上の依存がないこと)、十分なアクセス、公開の自由を挙げています。

Anthropicはこの仕組みを大手銀行に常駐する検査官になぞらえ、堅牢な安全監督への一歩と位置づけています。評価者が他社とも仕事をしうるため、同社は意図しない漏洩に注意を払うとしています。アーキテクチャ情報は漏洩リスクが高く、リスク評価との関連性は通常低いと説明する一方、関連性が高い場合には社内の明示的な承認を経たうえで、原則として共有を図るとしています。同社はすべてのフロンティアAI企業が同様に評価者を埋め込むべきだと述べています。

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内