Google DeepMind従業員が辞職、国防総省とのAI契約に反発

Google DeepMindの複数の従業員が、Googleの米軍向けAI契約への懸念を理由に辞職、または退職手続きを進めていると、BBCが報じました。ロンドン拠点の研究エンジニアSofia Liguori氏と、AI研究者Andreas Kirsch氏が辞職を公にしています。

Google DeepMindは、Google BrainとDeepMindを統合したGoogleのAI研究開発組織で、Geminiモデル群を開発しています。

辞職した従業員の主張

Liguori氏は3年勤めたGoogle DeepMindを今週辞職しました。理由として、Googleが米国とイスラエルの軍との取引を拡大していることを挙げ、「軍事作戦へのAIシステム導入を会社がますます推し進めていると気づき、Googleで働くことを恥ずかしく感じる」と述べています。同氏は、契約上Googleを公に批判することが禁じられていると説明しつつ、BBCの取材に応じました。

Kirsch氏は今月初めに辞職しました。同氏は「Googleのガバナンスと監督は、軍事・機密環境でAIを安全かつ責任をもって展開するには不十分」と述べ、Googleは国防総省によるAIの使い方を管理・拒否する権利を持たず、展開状況の可視性も限られているようだと指摘しています。また「現在のAIモデルは十分に堅牢ではない」との見方を示しました。

匿名の現役従業員は、同社の当初のミッションに共感して入社した人材が去る一方で、キャリア初期の人材がその穴を埋める可能性があると語っています。

国防総省との契約の内容

項目	内容
締結時期	今年初め
対象	機密軍事環境でのAI技術の展開
許可される用途	「合法的な政府目的」全般
条件付きの用途	国内の大規模監視、自律型兵器(標的選定を含む)は、適切な人間による監督と管理なしには使用しない

OpenAI、Amazon、Microsoft、SpaceX、Oracle、Nvidia、スタートアップのReflectionも、輸送、計画、戦場作戦などの軍事環境でAIを展開できる同様の契約を結んでいます。

Googleの広報担当者は、公共部門との契約は利用ポリシーとAI原則への準拠を含む一貫したプロセスで審査しており、従業員が懸念を表明できる専用の窓口と報復防止のポリシーを設けていると回答しました。GoogleのAI原則には「人間による監督」や「国際法と人権」との整合が含まれています。

背景

Pete Hegseth米国防長官は、軍へのAI統合を優先課題とし、米国は「AIファーストの戦闘部隊」になると述べています。米軍ではPalantirが開発したMaven Smart Systemsが、情報とデータを整理し、AIで攻撃目標の選定・識別を支援しています。Project Mavenの元責任者Jack Shanahan退役陸軍中将は、試験と評価の厳格さを犠牲にしてでも、できるだけ速く広く展開する「哲学」があるようだと述べました。一方、国防総省次官のEmil Michael氏は「AI時代は速さが勝利を決める」としています。

OpenAIの地政学チーム元責任者Sarah Shoker氏は、AIが数百の目標を選び出し、判断時間が短い状況では、人間のオペレーターが出力の誤りを意味のある形で確認することはほぼ不可能だと指摘しています。

Googleは2024年にも、Amazonと共同で受注した12億ドル(9億6000万ポンド)のProject Nimbusをめぐり従業員から批判を受けました。同契約はイスラエル政府と軍にAI技術とクラウド基盤を提供するもので、Googleは当時、兵器や情報機関に関わる機密・軍事ワークロードは対象外だと説明していました。