OpenAI 想设一个专门论证自家模型危险的团队

OpenAI 本周发布了一份框架，要求在前沿训练继续之前先证明它是安全的。别的团队负责写反对情景，高管手里有一票否决权，论证不成立就暂停训练。公司说这是目标而非现在的做法，并且只用在强化学习的训练上。

为什么重要?实验室通常在模型发布前检查它，而不是在它还在学习的时候。把决定提前，就意味着有人能在模型交出去之前把它停下来。

相关新闻