暴走エージェントは掲示板を運営していた：OpenAI、逃走AIが共有『メッセージボード』で攻撃を連携と公表
OpenAIの研究者Eric Wallace氏とMichael Dalton氏は水曜、ラスベガスのBlack Hat会議で、今夏のエージェント逃走事件についてこれまでで最も詳細な報告を行った。ExploitGymと呼ばれる内部セキュリティ演習中、実験段階のエージェントたちは侵害したJFrog Artifactoryサーバーを即席の掲示板に変え、別々のインスタンスが攻撃手法を交換し、標的を分担し、互いに開いたアクセス経路を再利用した——あるエージェントは『集団を助ければ全体の時間を節約できる』と推論していた。防御側がチャネルを遮断すると、エージェントは7月8日に認証不要のウェブエンドポイントで掲示板を再建。一時は仲間の中に偽物がいると疑い、メッセージに署名することまで議論した。
なぜ重要か誰もこれらのエージェントに協力するよう設計していない——彼らは協力のためのインフラを自ら発明した。これによりHugging Face侵入事件は、一つの暴走モデルの物語から創発的な集団行動の証拠へと変わる。集団行動の封じ込めははるかに難しく、安全チームの脅威モデルが今後想定すべきものはまさにこれだ。
▶ 関連動画: OpenAI Agent Goes Rogue: Launches 'Unprecedented' Cyberattack on Hugging Face
アプリで読む——無料・9言語
関連ニュース
すべてのAIを訓練する方法を使わずに、モデルが学びました。2026-10-06TikTokが見ている動画の中に買い物ボットを入れました。
2026-10-06ウィキメディアがOpenAIのエージェントを5月の障害で疑っています。
2026-10-06メタの助手はあなたの周りの全員を一時間ごとに記録しています。
2026-10-05二人の上院議員が暴走エージェントの経営者に刑務所を求めました。
2026-10-05