OpenAI、暴力防止の安全報告書を新設し未成年の武器情報を制限

OpenAIは、ChatGPTの暴力防止策として、6か月ごとに公開するCommunity Safety Reportの新設と、18歳未満と推定したユーザーへの武器関連情報の追加制限を発表しました。同社は2026年第3四半期に、差し迫った暴力の脅威について法執行機関へ200件超の照会を行っています。

Community Safety Reportの内容と公開時期

OpenAIは、暴力防止をはじめとするコミュニティ安全問題と、安全対策の有効性を扱う報告書を公開します。

項目	内容
初回公開	2027年初頭
初回の対象期間	2026年下半期
更新頻度	6か月ごと
主な掲載内容	検知・調査・対応の仕組み、匿名化した事例、新たな緩和策とポリシー変更、関連データ

全ユーザー向けの制限と自動介入

ChatGPTは過去の大規模攻撃について、被害や地域社会への影響、警告サインの認識、将来の暴力防止に関する質問には引き続き応じます。一方で、攻撃の再構成、使用・入手された武器や装備の詳細、加害者の知名度を高め得る被害規模の詳細な比較は制限します。この制限は、他のオンライン情報源で入手可能な情報であっても、ユーザーの年齢や質問理由を問わず適用します。

• 最近のチャットに暴力の警告サインがある場合、ChatGPTは悪用され得る情報をより保守的に扱います。
• 会話に暴力への固執や他者への重大な危害の考えが示された場合、ChatGPTはチャットを自動終了できます。
• 同じ理由で複数のチャットが終了された場合、OpenAIはアカウントを一時停止する可能性があります。

未成年者向けの保護措置

OpenAIは、暴力的意図の兆候がない場合でも、暴力に悪用され得る武器やセキュリティシステムの実用情報を18歳未満向けに制限します。暴力の防止や沈静化、支援の要請、信頼できる大人とのつながりには引き続き利用できます。

年齢予測システムは利用中に新たなシグナルを継続的に評価し、18歳未満と判断したユーザーを未成年者向け体験へ移します。誤って移されたユーザーは、年齢認証パートナーのPersonaを通じて成人であることを確認し、追加制限を解除できます。保護者向け機能では、暴力に関する利用ポリシー違反でアカウントが無効化された場合の通知を7月に追加しており、繰り返しの暴力的話題による一時停止時の通知も導入を進めています。

展開時期

OpenAIは、今回の保護措置を数週間以内に段階的に展開し、その後も改善を続けるとしています。