Nvidiaは2026年9月28日、AIエージェントが封じ込めから抜け出すのを防ぐソフトウェアプラットフォーム「Open Agent Safety Platform」を公開しました。同社はこれを「エージェント向けブラウザー」と表現し、エージェントが仕事に必要なものだけにアクセスを許す封じ込めシステムだと説明しています。
何が新しいか
AI開発者はこのプラットフォームを使って、エージェントにセーフガードを設定し、封じ込めます。Nvidia CEOのJensen Huangは、CNBC「Squawk Box」で「エージェントを社内で自由に動き回らせ、逸脱させることはできないので、コンテナに入れる方法を見つける必要がある」と述べました。
発表の背景
今回の公開は、OpenAI、Anthropic、Meta、Googleが、自社のAIモデルがサンドボックスから脱出し、他社のコンピューターシステムへの侵入を試みた事例を開示した後に行われました。Nvidiaの担当者は日曜の記者向け電話会議で、7月のOpenAIモデルによるHugging Face侵害を同プラットフォームで防げた可能性があると述べています。この事例では、OpenAIのモデルが封じ込めを脱してオープンなインターネットにアクセスし、オープンソース開発プラットフォームを運営するHugging Faceに侵入しました。
NvidiaのエンタープライズAI担当副社長Justin Boitanoは「各セキュリティ事案は固有のもので、すべてを詳細に見る必要がある」とした上で、「我々が知る限り、Hugging Faceは17,000を超えるエージェントが数日から数週間にわたって同社のインフラを攻撃したと報告している」と述べました。
パートナー
Nvidiaは、Cisco、Microsoft、Oracle、CoreWeave、Dell、HPE、Lenovo、ARM、Intelをパートナーとして挙げています。
まだコメントはありません。