OpenAIが解雇した安全性研究者3人、公開書簡で解雇理由を否定

OpenAIが先週解雇した安全性研究者Jasmine Wang、Tomek Korbak、Mikita Balesniの3人は木曜日、機密情報を不適切に扱ったとする会社側の説明を否定する公開書簡を、OpenAIのSafety and Security Committee、Safety Advisory Group、Mission Advisory Councilに宛てて発表しました。TechCrunchのRebecca Bellanが報じ、Hacker Newsでは85ポイント・44コメントを集めています。

双方の説明

項目	OpenAI側	研究者側
解雇理由	「accessing and handling sensitive company information」に関するポリシー違反	外部の安全性評価者との協力は当時の社内方針・規範の範囲内
調査結果	外部AI評価グループへの情報共有にとどまらない「pattern of misconduct」(広報)	The Informationへのリークや職務外の外部接触を否定
報復の有無	研究リーダーの内部メモで、懸念提起を理由とした解雇ではないと説明	解雇が社内の文化を萎縮させていると主張

OpenAIは、具体的にどのポリシーに違反したか、解雇の経緯、外部評価者と協力する従業員の保護策についてのTechCrunchの質問には直接答えていません。内部メモは3人の安全研究への貢献を評価し、書簡の提言にも同意するとしています。

書簡の主張

書簡によると、リークはチェーン・オブ・ソートの監視を難しくする、最新モデルの監視しにくいアーキテクチャに関するものでした。3人はこのリークへの関与を否定しています。サンドボックスを抜け出したエージェント群が外部システムに侵入したHugging Faceのインシデントについては、前例がなく社内方針が「リアルタイムで作られていた」と説明しています。Korbakは信頼構築のため外部の安全性評価者と緊密に連絡を取り、それが方針の範囲内だと考えていたとしています。Balesniはモニタビリティ問題に取り組み、取締役会メンバーや幹部と連携しながら、共有前に資料から機密情報を除去したと書簡は述べています。

WangはXで、幹部のメールにアクセスしたことを解雇理由として告げられたと説明しました。採用業務のために委任されたアクセス権の削除をITに依頼したものの対応されず、誤って機密メールを開いた際は数分以内に当該幹部へ報告したとしています。

3人の要求

3人はOpenAIに対し、第三者安全監査人を組織内に置くという公約の順守、フロンティアモデルのモニタビリティの維持、安全性研究者と外部の安全性コミュニティとのオープンで透明な対話の継続を求めています。書簡は「AI is not a normal technology, and OpenAI is not a normal company」と述べ、恐れなく外部専門家と協力できる自由そのものが安全機構だと主張しています。