Lawyers’ Committee for Civil Rights Under Lawは2026年11月17日、AI銃器検知システムOmnilert Gun Detectがチップスの袋を「90%の確率で銃」と誤認したことで拘束・身体検査を受けた黒人の生徒4人を代理し、Omnilert, LLC、Baltimore County Public Schools(BCPS)と関係者、Baltimore County Police Departmentと警察官らをメリーランド州ボルティモア郡巡回裁判所に提訴しました。事件名は「Allen, et al. v. Omnilert, et al.」です。
何が起きたか
発端は2025年10月、メリーランド州ボルティモア郡のKenwood High Schoolです。BCPS全体で使われているOmnilert Gun Detectが、生徒のチップスの袋を銃器と誤認しました。訴えによると、武装した地元警察が校舎入口のすぐ近くで生徒らを取り囲み、ひざまずかせ、手錠をかけて検査しました。生徒の一人Keith Winfield IIIの母親は、息子らを迎えに向かう途中でした。
訴訟の概要
| 項目 | 内容 |
|---|---|
| 原告 | Taki Allen、Yui-Osa Ogbeide、Devon Thompson Jr.、Keith Winfield III(現・元生徒4人) |
| 被告 | Omnilert, LLC、BCPSと関係者、Baltimore County Police Department、警察官個人 |
| 裁判所 | Circuit Court for Baltimore County, Maryland |
| 主張 | 連邦・州憲法上の権利侵害、過失、重過失など |
| 共同代理人 | Willkie Farr & Gallagher LLP(プロボノ)、Engel Law Group, P.C. |
問題とされた連鎖
訴訟側は、技術の誤りに人間の判断ミスが重なったと主張しています。
- 学校関係者は、このシステムが誤警報を頻繁に出すことを認識していた
- 学校職員と警察が画像を確認して誤りと判断した後も、警報が継続した
- 学校と警察は警報を取り消したが、取消し済みの警報が武装警察の出動につながらない手順がなく、警察が派遣された
- Omnilertのスタッフ、校長、警察のいずれも、銃がないという明確な証拠を見落とすか無視した
求めている改革
訴訟は、警察と学校がAI脅威検知プラットフォームの報告を検証すること、学校でのAI利用の適切性を評価すること、誤警報が武装警察の出動を招かない方針を整備することを求めています。あわせて、誤りと結果に関する訓練・監督・透明性の強化と、技術の使い方への地域の関与も要求しています。同団体のDamon Hewitt代表は「AIへの過度な依存と、主要な関係者間の稚拙な連絡・調整の組み合わせは有害だ」と述べ、公共安全や子どもに関わるAI利用の見直しを訴えています。

まだコメントはありません。