Ajeya Cotra、METR報告からAnthropicの能力進歩が約2倍速と分析

Ajeya Cotra氏は、METRがAnthropicのAI研究開発の加速を調べた公開報告書を分析し、2025年10月〜2026年10月のAnthropicの能力進歩が前の12か月の約2倍の速度だったと紹介しました。同氏は、AnthropicのRSPが定める「AIによる劇的に加速された進歩」の閾値をすでに超えた可能性があると論じています。

METRはAIモデルの能力とリスクを評価する研究組織で、AnthropicはClaudeを開発する企業です。Cotra氏は本プロジェクトに関与しておらず、報告書の非公開版(削除前の版)は見ていないと断ったうえで、意見は個人のものとしています。Ryan Greenblatt氏が議論とモデリングを支援し、Daniel Kokotajlo氏、Eli Lifland氏、Hjalmar Wjik氏がコメントを寄せました。

報告書の主な内容

METRは、Epoch Capabilities Indexの内部版であるAECIで能力進歩を測定しました。加速を示すその他の補足証拠は大半が削除されており、報告書の著者はそれを「最も有益と考えた証拠の大部分」と述べています。著者は、現在の加速の大部分はAIによる自動化によるものと推定し、加速を妨げるボトルネックや急激な収穫逓減の証拠は見つからなかったとしています。加速がすでに2倍を超え、時間とともに増えている可能性を示す削除済みの証拠にも触れています。

数値

項目	値
能力進歩の速度(2025年10月〜2026年10月、前12か月比)	約2倍
加速のうちAIに帰属する割合	約80%
研究者労働への必要な加速(初期の計算)	約4〜9倍
同(数か月の加速後)	約10倍
Anthropicスタッフの非公式な自己申告	約12倍
加速が再び倍増する仮定上の間隔	約6か月
素朴な外挿で極端な超知能に至るまで	約1年以内

Cotra氏の計算では、compute multiplierの成長率が約2〜3倍速くなる必要があり、実験用計算資源と労働を同程度に重要とするCobb-Douglasモデルを仮定すると、労働への加速はその2乗の約4〜9倍になります。さらに収穫逓減を補うため、数か月後には約10倍が必要と見積もり、この値は「非常に不確実」としています。同氏は10倍の加速を「研究者が10人のチームになる」のではなく、外界の1日に10日を過ごすような状態にたとえています。

RSPの閾値

2026年7月発効のRSPでは、AIがAI研究開発に大きく寄与していなかった時期の最速の持続的進歩率と比べ、総合能力の進歩が2倍速になると観測・予測され、その加速が人員・計算資源・一般的生産性ではなく研究・エンジニアリングの自動化に大きく帰属できることを条件としています。Anthropicは今週のS1で、この閾値に「間もなく達する可能性がある」と記載しました。2025年5月の旧RSPでは、AI R&D-5到達時に「国家レベルの敵対者によるモデル重みの窃取から保護できる」セキュリティを最低要件としていました。

Cotra氏の主張

同氏は、加速が自己強化すれば進歩は4倍、8倍、16倍と速まり得て、倍増間隔が6か月、3か月、6週間と縮む素朴な外挿では1年以内に極端な超知能に至ると説明します。そのうえで、モデル重みとアルゴリズム上の秘密のセキュリティ、全面的なログと監視、監視可能性の測定、監視の共謀への対策、アラインメント訓練や解釈可能性、進歩のペースを調整するガバナンスが必要だが、業界はその水準に達していないと述べています。根拠として、OpenAIとAnthropicがアマチュア集団による重大なセキュリティ侵害を最近受けたことを挙げています。また、証拠の大半が非公開で外部の研究者が検証できない点を問題視しています。