METR、AnthropicのRisk Reportを検証し加速率1.97倍と算出

METRは、Anthropicが公開した2026年8月のRisk Reportのうち「Risks from automated R&D」節をレビューし、7月15日時点のモデルが2倍加速閾値を超えていた可能性があると評価しました。METRは非公開版報告書の数値から、先行指標の加速率を1.97と計算しています。

METRはAIモデルの能力とリスクを評価する研究組織で、AnthropicはClaudeを開発する企業です。

Anthropicの閾値と結論

AnthropicのRSP v3.4は、「主要領域における自動化された研究開発」について2つの能力閾値を設けています。脅威モデルの対象は、ロボティクス、エネルギー、サイバー戦、AI研究開発そのものなど主要領域の研究開発です。

閾値	内容
Full Substitution Threshold	研究科学者と研究エンジニア全員を、競争力のあるコスト(5倍以内)で完全代替できるモデル
2x Acceleration Threshold	AI研究開発の自動化に起因する、AI進歩ペースの2倍への劇的加速

Anthropicは、強いインセンティブがあっても研究スタッフを置き換えられていないことを根拠に完全代替閾値は未到達とし、先行指標の加速も「2倍未満」として、7月15日時点のリスクを「low」と結論づけました。報告書自身も、タスクベース評価が飽和し加速の初期兆候が見えているため、過去の報告書より確信度は低いと記しています。2倍加速閾値は、高リスクの直接的証拠ではなく早期警戒として位置づけています。

METRの評価

METRは、7月15日時点で内部展開モデルの壊滅的リスクが低いという点ではAnthropicに同意しました。完全代替閾値に関する議論も概ね説得的と評価しています。ただし、未飽和の高信頼ベンチマークがないため、アラインメント、ツール、監督、能力引き出しの問題が自動化を妨げているだけでモデル自体は必要能力に近い可能性を懸念しています。

2倍加速閾値については、公開報告書の結論は過信気味で、明確に説明されていない判断に依拠していると指摘しました。METRによれば、公開報告書は先行指標とAECIの加速の証拠を過小に示し、非公開版で述べられていた反実仮想的加速の不確実性も十分に伝えていません。

項目	数値
METRが非公開報告書の数値から計算した加速率	1.97
METR独自分析による先行指標の加速率	1.3〜2.8
Anthropicの7月15日時点のリスク評価	low

METRは、先行指標について「定義と期間により1.3〜2.8の大幅な加速を示す。これらが下流の能力とどう関係するかは不確実」という表現を推奨しています。

レビューの実施条件

METRは、Anthropicから非公開版のRisk Reportと広範な非公開データの共有を受ける高アクセス評価の一環としてこのレビューを実施しました。Anthropicは非公開情報を削除する権利を持ち、METRは結論にとって重要な削除箇所を報告書内で記述しています。METRは同じ担当者による、Anthropicにおける AI R&D 加速の総合評価も併せて公開しています。