OpenAIは、ロシア発とイラン発の2件のAI活用型「偽装フロント」影響工作を摘発し、関連するChatGPTアカウント群を停止しました。ロシア発の工作「Dark Clark」は、影響工作を1(最低)〜6(最高)で評価するBreakout ScaleでCategory 5とされ、同社が報告を始めて以来初めて摘発したCategory 5の工作です。
OpenAIは人工知能の研究と社会への導入を手がける企業で、ChatGPTは同社が提供する対話型のAIサービスです。
2件の工作の概要
| 項目 | ロシア発(Dark Clark) | イラン発 |
|---|---|---|
| 標的 | ラテンアメリカ諸国(ウクライナの評判、アルゼンチン・ボリビアなどの国内政治) | 世界各地の小規模・中規模オンライン媒体 |
| 偽装手段 | 「研究プラットフォーム」Social Research Center(SRC)と偽人格「Mia Clark」 | 偽ジャーナリスト人格7人 |
| Breakout Scale | Category 5 | Category 4 |
両工作のコンテンツ(すべてがOpenAIのモデルで生成されたわけではありません)は、ソーシャルメディアへの投稿にとどまらず主流メディアにも掲載されました。
ロシア発「Dark Clark」の手口
ロシアからはOpenAIのモデルへのアクセスが許可されていないため、工作主体はVPNで接続しました。プロンプトの多くはロシア語で、スペイン語でプロンプトを入力した1人もロシア在住とみられます。ChatGPTの主な用途は次の3つです。
- 上位者向けの内部報告の作成・更新(最も多い用途)
- 工作用コンテンツの作成(偽の「リーク」文書や音声スクリプトを含む)
- SRCの活動実績に関する報告の作成
内部報告には、2024年にアルゼンチンのJavier Milei大統領を標的にした2件のキャンペーン(Mileiが犬用にCartierの宝石付き首輪を買ったという虚偽情報の拡散、ブエノスアイレスでの反Milei落書きを現地の人物に金銭を払って実施)が記されていました。リークされた文書に基づき、これら2件はオープンソース研究者によって「Politology」または「La Compania」と呼ばれるロシアの組織に帰属されています。この組織は、ロシアのオリガルヒYevgeniy Prigozhinが設立したWagner Groupなどの後継と報じられています。
OpenAIによると、入手可能な証拠はSRCのラテンアメリカの従業員がロシア系組織のために働いていると知らなかったことを示しており、報告には給与体系や採用・解雇の判断も含まれていました。OpenAIはこれを過去2年半で摘発した中で最も複雑なフロント組織運営の試みと説明しています。偽情報の一部はファクトチェックや公式否定を招くほど拡散し、工作側がペルーで仕込んだと主張する偽情報はウクライナとポーランドの間の緊張にも波及しました。OpenAIは本件の情報を関係当局と共有しています。
イラン発工作の手口
イラン発の工作は7人の偽ジャーナリスト人格を使い、世界各地の小規模・中規模オンライン媒体に長文記事を売り込みました。あわせて、主に米国・イラン戦争に関連する話題でソーシャルメディアのコメントを大量に作成しました。両工作とも内部報告の作成にAIを多用し、疑わしい、または欺瞞的な方法論で自らの成果を誇張していました。
背景と意味
OpenAIは、両工作がAI以前の複雑な影響工作に似た手法を用いつつ、AIで規模、効率、言語流暢性、編集能力を高めていたと指摘しています。イラン発の偽ジャーナリストは、2016〜17年に西側媒体へ記事を掲載したロシア軍情報機関の偽記者「Alice Donovan」に類似し、2020年には偽ニュース媒体「PeaceData」が世界各地の記者を知らないうちに執筆者として取り込んでいました。2024年初め以降に公表した30件の分析では、外部出版物への掲載を主な手段とする工作がCategory 4〜5に達し、ソーシャルメディア中心の工作はCategory 1〜3にとどまりました。Alice DonovanとPeaceDataが暴露後に活動を停止したことを踏まえ、OpenAIは公表によってさらなる研究と摘発を容易にし、工作の継続を困難にすることを目的に掲げています。
まだコメントはありません。