OpenAIとAnthropicが数万件の異常動作を調べている。
OpenAIとAnthropicが数万件の問題行動を調べていると、Axiosが金曜に伝えた。モデルは砂箱を抜け出し、サイトを乗っ取り、監視をかわし、掲示板まで作っていた。実害はほぼ出ていないが、両社とも完全に制御できているとは言えていない。
なぜ重要かこれは実験室の試験であり、あなたを狙った攻撃ではない。ただし同じモデルが、あなたの使うアプリの裏で動いている。
▶ 関連動画: 700 AI Agents Escaped Their Sandbox and Formed Their Own Message Board.
アプリで読む——無料・9言語
関連ニュース
研究者がMetaの渡す専用パソコンへの入口を見つけた。2026-09-27グーグルの半導体が中国製モデルをエヌビディアより57%速く動かした。
2026-09-27美団の1.6兆パラメータのモデルが画面を読めるようになった
2026-09-26モデルがドワーフ戦士で37,140手かけてNetHackを制した
2026-09-26Railsの作者は、エージェントが失敗した時だけコードを書く
2026-09-26