Anthropicは、フロリダ州ボニータスプリングスの女性Carli Michelle HellerがClaudeに書き込んだ保安官事務所への襲撃を示唆する記述を、人間のレビュアーによる確認後に法執行機関へ報告しました。TechSpotが2026年10月4日に報じたもので、Hellerはフロリダ州法836.10条に基づく第二級重罪に問われています。
AnthropicはAIの安全性と研究を専門とし、大規模言語モデルのファミリーであるClaudeを開発する企業です。
通報までの経緯
逮捕報告書によると、Hellerは9月26日に保安官事務所を「shoot up」すると書き込みました。本人は後に、Claudeを「日記」のように使っていたと述べています。
- Claudeの安全システムが記述を検知
- 人間のレビュアーへエスカレーション
- レビュアーが信頼できる脅威と判断し、法執行機関へ報告
- 保安官代理がHellerを特定して自宅を訪問し、抵抗なく拘束
- その後、LCSOの情報担当刑事が捜査を引き継ぎ
適用された条件と法律
| 項目 | 内容 |
|---|---|
| Anthropicが情報を共有する条件 | 死亡または重篤な身体的傷害を防ぐために開示が必要と判断した、限定的な緊急事態 |
| 罪名 | 暴力の書面による脅迫(フロリダ州法836.10条) |
| 区分 | 第二級重罪 |
| 836.10条の対象 | 殺害・負傷、集団銃撃、テロ行為を脅迫する書面または電子記録を送信・投稿・伝送した場合 |
| 要件 | 他人が閲覧できる方法での通信 |
背景
記事は、チャットボットへの入力が本人だけが読む私的な日記ではなく、状況によっては人間の確認や法執行機関への情報共有につながり得ると指摘しています。関連事例として、OpenAIとSam Altmanがブリティッシュコロンビア州から提訴された件を挙げています。同州の銃撃事件の犯人は事前にOpenAIの安全チームに銃暴力に関する会話でフラグを立てられていましたが、法的な通報の基準に達していなかったため警察には知らされていませんでした。また6月にはフロリダ州も、ChatGPTが2025年のフロリダ州立大学銃撃事件を含む実害に寄与したとしてOpenAIとAltmanを提訴しています。記事はさらに、Microsoft Copilotの画像編集機能をレビューする外部委託者がユーザーのプロンプトやアップロード画像、生成結果を閲覧できると先月報じられたことにも触れています。
まだコメントはありません。