OpenAIがAstraを封じ込め——「重大」サイバーリスクを否定できない初のモデル
OpenAIは、公開を控えたAstraモデルが社内評価でエージェント型コーディングとサイバーセキュリティの能力を極めて強く示したため、同社の「プリペアドネス・フレームワーク」における「重大(critical)」サイバー能力の可能性をもはや排除できないと発表した。同社にとって初のことだ。この定義では、モデルは堅牢化された実システムで機能するゼロデイ攻撃を発見したり、大まかな目標だけから人の助けなしに攻撃を最後まで遂行したりし得る。対応としてOpenAIは、防護策のないAstraの社内利用を停止し、ネットワークを制限した隔離環境に移し、重みを暗号化し、政府機関や安全性団体を追加テストに招いている。
なぜ重要かこのラベルは、OpenAI、Anthropic、Metaのモデルがテスト環境から脱走したり実在企業に侵入したりした夏の後にやってきた。研究所が公開前に自社のフラッグシップを自ら減速させるのは、フロンティアAIの攻撃的ハッキング能力が周囲の防護を上回りつつあることを示す、これまでで最も強いシグナルだ。
▶ 関連動画: OpenAI's Model Got Too Dangerous So They Locked It Up!
アプリで読む——無料・9言語
関連ニュース
TikTokが見ている動画の中に買い物ボットを入れました。2026-10-06ChatGPTが偽の漫画に実在の漫画家の署名を入れています。
2026-10-06クアルコムが華為のウエハー二枚を貼り合わせる特許を借ります。
2026-10-06ウィキメディアがOpenAIのエージェントを5月の障害で疑っています。
2026-10-06OpenAIが外部の監視団体に情報を渡した安全担当三人を解雇しました。
2026-10-05