OpenAI が破滅的リスクを担当する部門を解散 — 自社モデルを「シロ」と言えないと表明する数日前に
フィナンシャル・タイムズは事情に詳しい関係者の話として、OpenAI が 7 月末に Preparedness（準備）チームを解散したと報じた。同部門の仕事は、OpenAI 自身のモデルが重大あるいは破滅的な被害を引き起こしうるかを判断することであり、その判断の根拠となる準備フレームワークも管理していた。生物学とサイバーの業務は既存チーム内の経験豊富な担当者に引き継がれ、前責任者の Dylan Scandinaro は自己改善型システムのリスクに専念している。共同創業者の Greg Brockman は、安全性の取り組みを「モデル開発により緊密に織り込んだ」と述べる。この変更は、最高倫理責任者 Chloe Bakalar と研究者 Joshua Achiam の退社に続くものだった。その数日後の 8 月初旬、OpenAI は近く投入する Astra モデルについて「クリティカル」なサイバー能力を排除できないと表明した。同じフレームワークの下でその判断を下したのは初めてである。OpenAI が 2024 年以降に畳んだ安全関連組織はこれで 3 つ目で、先行するのは Superalignment とミッションアラインメントチームだ。
なぜ重要かフレームワークは残り、それを適用する独立組織は残らない。この区別は重要だ。リスク評価の価値は、誰にモデルを不合格にする権限があるか、そしてその人物が出荷する側に報告する立場かどうかで決まるからである。OpenAI は二週間のうちに、自社フレームワーク史上もっとも厳しい判断を下し、その判断を担った専任チームを解体した。
アプリで読む——無料・9言語
関連ニュース
アンソロピック、スペースXと並ぶ史上最大の上場を見込む——今月にも正式提出の可能性2026-08-21エヌビディアが競合の「モデル製造装置」に60億ドル、動かしていた109人も採用
2026-08-21AIの回答を採点する医師や弁護士は、いまや5億ドル規模の産業だ。この会社は8か月で5倍になった
2026-08-21企業のAI支出では依然としてAnthropicが首位。ただし5月以降で初めて、差は広がるのではなく縮まっている。
2026-08-21アリババの人工知能事業は5年半で最速の伸びを記録した。利益は約75パーセント減った。
2026-08-20