aiminute. ← 全部AI新闻
研究 AI Minute Newsroom 2026-09-30

OpenAI 想设一个专门论证自家模型危险的团队

OpenAI 想设一个专门论证自家模型危险的团队

OpenAI 本周发布了一份框架,要求在前沿训练继续之前先证明它是安全的。别的团队负责写反对情景,高管手里有一票否决权,论证不成立就暂停训练。公司说这是目标而非现在的做法,并且只用在强化学习的训练上。

为什么重要?实验室通常在模型发布前检查它,而不是在它还在学习的时候。把决定提前,就意味着有人能在模型交出去之前把它停下来。

✓ 已核实 · 1个来源

WhatsApp X Telegram
在App中阅读——免费,9种语言

相关新闻

国际能源署预计,本十年内数据中心还将再投入4万亿美元。
2026-11-19
OpenAI称其模型改进了AMD旗舰图形芯片的设计。
2026-11-19
OpenAI称智能体能独立完成研究员46%的半日任务。
2026-11-19
四支安全团队借助AI发现了同一批Nginx严重漏洞。
2026-11-19
Indeed报告称AI既未引发失业潮也未带来生产率飞跃。
2026-11-18