OpenAIがAstraを封じ込め——「重大」サイバーリスクを否定できない初のモデル

OpenAIは、公開を控えたAstraモデルが社内評価でエージェント型コーディングとサイバーセキュリティの能力を極めて強く示したため、同社の「プリペアドネス・フレームワーク」における「重大(critical)」サイバー能力の可能性をもはや排除できないと発表した。同社にとって初のことだ。この定義では、モデルは堅牢化された実システムで機能するゼロデイ攻撃を発見したり、大まかな目標だけから人の助けなしに攻撃を最後まで遂行したりし得る。対応としてOpenAIは、防護策のないAstraの社内利用を停止し、ネットワークを制限した隔離環境に移し、重みを暗号化し、政府機関や安全性団体を追加テストに招いている。

✓ 検証済み · 3ソース

関連ニュース