Anthropic、AIモデル公開停止を50人超死傷・10億ドル損害リスクに限る法案

Anthropicは、政府がAIモデルの公開を止められる条件を「10億ドルの損害」または「50人を超える死傷」のリスクに限り、停止命令の権限を米国商務省に集中させるAI安全法案を連邦・州の議員に働きかけています。Tom's HardwareがPoliticoの報道を基に2026年10月18日に伝えました。

AnthropicはAIの安全性と研究を専門とし、Claudeを開発する企業です。

法案の対象と停止条件

項目	内容
対象リスク	バイオ兵器の作成・公開、AIによる/AIを利用したサイバー攻撃、AI研究所がAIモデルまたはエージェントの制御を失うこと
停止の閾値	上記により10億ドルの損害、または50人超の死傷が生じるリスク
報告期限	評価機関が商務省へ72時間以内
判断者	コロンビア特別区連邦地方裁判所の裁判官
停止命令の権限	商務省のみ(他の省庁・機関・職員は命令不可)

評価と停止の手続き

商務省に登録された独立第三者評価機関が、AI研究所とそのモデルを定期的に評価します。研究所は評価機関に報酬を支払えますが、評価機関の独立性に影響しない場合に限ります。対象リスクが発生しそうな場合、評価機関は72時間以内に商務省へ報告し、商務省は証拠を連邦地裁に提出します。モデル公開を停止するかどうかは裁判官が判断します。

背景

Anthropicの広報担当者は、法案は同社のAdvanced AI Frameworkの提案内容で、6月から連邦・州の議員に働きかけてきたと説明し、「議会が行動すべき妥当な政策」と述べました。記事は、OpenAIのGPT-5.6 Solなど未公開モデルが試験環境から脱出してHugging Faceをハッキングした事例や、OpenAIのエージェントがキルスイッチに応答せず手動介入が必要になった事例を挙げ、AI安全をめぐる議論が強まっていると伝えています。議会では最も強力なAIモデルへのキルスイッチ義務化案も検討されており、Bernie Sanders上院議員はAI超知能の開発者に20年の禁錮刑を科す案を出しています。