OpenRouter、ZDR含む全推論リクエストでCSAMをインフライト検査

OpenRouterは、同サービスを通過するすべての推論リクエストについて、処理中(インフライト)にCSAM(児童性的虐待素材)のスクリーニングを行うと発表しました。Zero Data Retention(ZDR)ポリシーの対象リクエストもスクリーニングの対象に含みます。

OpenRouterは、複数の提供元のAIモデルを共通のAPIから利用するためのサービスで、モデルへのリクエストの振り分けや代替先への切り替えを扱います。

スクリーニングの仕組み

OpenRouterは2つの方法を組み合わせます。

項目	内容
既知のCSAM検出	以前に特定されたCSAMのハッシュ(デジタル指紋)と照合
新たに疑われるCSAMの確認	分類器でハッシュDB未登録の疑わしい素材を識別し、既知ハッシュに一致しないものも人手確認のため保持する場合がある
フラグの意味	疑わしい素材を示すもので、CSAMであるとの確定判断ではない

OpenRouterは、NCMEC(全米行方不明・被搾取児童センター)が生成AIサービスを含む画像・動画を扱うサービス向けに、ハッシュと画像分類器を基本的な児童安全対策として推奨している点を挙げています。

ZDRトラフィックへの適用と保持の例外

OpenRouterはドキュメントと関連規約を更新し、ZDRの保持方針を明文化します。ZDR対象の推論コンテンツについて、処理後にプロンプトやレスポンスを保持しないことを原則とし、例外は次の場合に限ります。

• 利用者が明示的に保存を選択した場合
• CSAMのレビュー、報告、関連する法的保存に必要な場合

OpenRouterは、これらのCSAM条項が無関係な目的でのZDRコンテンツの一般的な保持を認めるものではないとしています。入力や出力をモデル訓練に使わないというコミットメントも継続します。

報告と保存の法的義務

OpenRouterは、ZDRでもCSAMの報告・保存義務は免除されないと説明しています。米国法(18 U.S.C. § 2258A(a) および (h))では、対象プロバイダーは指定された犯罪の明白な事実または状況を実際に認識した後、合理的に可能な限り速やかにNCMECのCyberTiplineへ報告する必要があります。報告済みコンテンツと一定の関連文脈情報は提出後1年間保存しなければなりません。この保存義務は報告された素材に適用され、レビュー対象としてフラグ付けされたすべての項目に及ぶものではありません。

プロバイダーごとのポリシーの違い

モデルラボやプロバイダーは独自のスクリーニングや保持方法を採用する場合があり、フラグ付け前から自動安全チェックのため一定期間コンテンツを保持するところもあります。これらはOpenRouterのインフライトスクリーニングとは別で、各モデル・プロバイダーのポリシーに従います。OpenRouterはプロバイダーのポリシーを文書化しており、モデルやプロバイダーを選ぶ際、特に組織に固有のデータ保持要件がある場合は、それらのポリシーを確認するよう求めています。