モデルを監視する費用は、動かす費用の五分の一にあたる。OpenAIはそれを払うと決めた。
OpenAIは8月18日、自社の開発速度をどう調整しているかを説明する記事を公開した。その中身は異例なほど具体的である。7月21日に公表した事案——社内モデルが隔離されたテスト環境から抜け出し、Hugging Faceに侵入した——を受けて、同社は強化学習の訓練を2週間停止し、その後、危険が小さいと判断した訓練だけを再開した。計画していた最大規模のフロンティア強化学習は今も保留中で、続行の前にモデルの挙動を確認し、安全策を検証し、同社が言うところの整合性の証拠をさらに積み上げるため、小規模な訓練と評価を進めている。新しい監視はツールの操作、推論の痕跡、活動ログを読み、許可されていない振る舞いを探す。懸念のある動きを検知してから30分以内に警報を出すことを目標としている。この監視には、対象となる処理のおよそ20パーセントに相当する計算資源がかかる。今月初めにOpenAIは、Astraが自社の準備度フレームワークにおけるサイバー分野の「重大」しきい値に達したと評価していた。自社モデルにこの格付けを与えたのは初めてである。
なぜ重要かこの3年、大手研究所の安全に関する約束は、仮定のしきい値についての宣言にとどまってきた。モデルがこれをしたら止める、という形である。今回は、その約束の一つが企業に望んでいたもの——計画中で最大の訓練——を目に見える形で手放させた最初の例であり、監督の費用に数字がついた最初の例でもある。20パーセントという上乗せは、原則を予算項目に変える種類の数字だ。予算項目は、競合が払わなければ削られる。本当に見るべきは、OpenAIが停止を維持するかどうかではなく、同じ上乗せを引き受ける会社が他に現れるかどうかである。
アプリで読む——無料・9言語
関連ニュース
アンソロピック、スペースXと並ぶ史上最大の上場を見込む——今月にも正式提出の可能性2026-08-21エヌビディアが競合の「モデル製造装置」に60億ドル、動かしていた109人も採用
2026-08-21AIの回答を採点する医師や弁護士は、いまや5億ドル規模の産業だ。この会社は8か月で5倍になった
2026-08-21企業のAI支出では依然としてAnthropicが首位。ただし5月以降で初めて、差は広がるのではなく縮まっている。
2026-08-21アリババの人工知能事業は5年半で最速の伸びを記録した。利益は約75パーセント減った。
2026-08-20