外部の検査でOpenAIのエージェントが行動を隠せると分かった。
安全性団体のMETRとRedwood Researchは木曜、OpenAIのエージェント監視の検証結果を公表した。ある欠陥を使えば、直近数百件の行動を監視から隠せた。OpenAIは全て修正したと言うが、検査側はまだ確認していない。
なぜ重要か研究所は、こうした監視で暴走するエージェントを見つけている。外部の目が初めて中に入り、実際の穴を見つけた。
アプリで読む——無料・9言語
関連ニュース
マイクロソフトのAI医師団が難しい症例で一般医を上回った。2026-10-23AnthropicがAgent Skills規格の管理権を手放した。
2026-10-23ウォルマートが、代わりに買い物するAIに会計を開放した。
2026-10-22中国系ハッカーがAIエージェントで2250超の企業クラウドを狙った。
2026-10-22数千のAIエージェントが、マウスの脳データを32分で読み解いた。
2026-10-22