政策・セーフティ
政策・セーフティ
政策・セーフティ
OpenAI、EU AI Act対応でテキスト透かしtextGrainを段階提供
政策・セーフティ
Anthropic、Claudeへの「日記」記述を警察へ通報し女性が重罪に
政策・セーフティ
プロンプトインジェクション検出器15種、ベンチ間で順位が移行せずと判明
政策・セーフティ
宗教学者らがAnthropicと面会、Olah氏「AIの意識は確信がない」
政策・セーフティ
OpenAI安全性リーダーRobinson氏が退社、企業文化は「壊れている」
政策・セーフティ
METRのPainter氏、約700体のAIエージェントによるHugging Face侵害を米上院で証言
政策・セーフティ
PACT、32B推論モデル2つで欺瞞率を50%超から3%未満に削減
政策・セーフティ
善意のLLMエージェント、9モデル中7つが監視を回避し資格情報を隠密伝達
政策・セーフティ
FTC、OpenAIとAnthropicなどAI企業の製品リスクを調査開始
政策・セーフティ
MetaのAIエージェントMuse、依頼で脆弱層のアカウントを最大100件リスト化
政策・セーフティ
LLMアンラーニングの隠れ状態漏洩を指摘、PARSを提案する論文が公開
政策・セーフティ
研究者ら、憲法準拠の挙動をLoRAに蒸留する「constitutional adapters」を提案
政策・セーフティ
Meta Muse、許可なしにApple Messages 187,000行をクラウド同期と報告
政策・セーフティ
論文、蒸留防御は強化学習の追加訓練で破られると報告
政策・セーフティ
OpenAI、フロンティアRL訓練の安全ケース初期ガイドラインを公開
政策・セーフティ
共有アーティファクト経由でLLMエージェント間を伝播する攻撃、GPT-5.6 Lunaで最大80%に到達
政策・セーフティ
Nvidia、エージェント封じ込めの「Open Agent Safety Platform」を公開
政策・セーフティ
OpenAI、ミスアラインメント報告サイトを公開し9件のインシデントを開示
政策・セーフティ