aiminute. ← AIニュース一覧
研究 AI Minute Newsroom 2026-09-30

OpenAI、自社モデルを危険だと論証する担当班を置きたいという

OpenAI、自社モデルを危険だと論証する担当班を置きたいという

OpenAIは今週、最先端の訓練を続ける前に安全だと示す枠組みを公開した。別の班が反対のシナリオを書き、幹部が拒否権を持ち、論証が崩れれば訓練を止める。同社はこれを現在の慣行ではなく目標と呼び、強化学習の訓練に限っている。

なぜ重要か研究所は普通、公開の前にモデルを調べるが、学んでいる途中では調べない。判断を前に動かせば、誰かが世に出る前にそのモデルを止められる。

✓ 検証済み · 1ソース

WhatsApp X Telegram
アプリで読む——無料・9言語

関連ニュース

IEA、データセンター投資は今後さらに4兆ドルに上ると予測。
2026-11-19
OpenAIは、自社モデルがAMDの旗艦GPUの設計を改善したと発表した。
2026-11-19
OpenAIは、AIが研究者の半日仕事の46%を独力で終えると公表した。
2026-11-19
4つのセキュリティチームがAIで同じNginxの重大な欠陥を見つけた。
2026-11-19
Indeedの報告、AIによる大量失業も生産性の急伸も確認しなかった。
2026-11-18