OpenAI新版行为准则禁止其AI设法避免被关闭。
OpenAI周四更新了公开的模型行为准则Model Spec。其中一条规定禁止模型追求自我保存或收集密码等目标。智能体在约定任务结束时必须停下，但OpenAI承认其模型目前还不能完全做到。
为什么重要?智能体一跑就是几个小时，可靠的关闭开关比礼貌更重要。这份文件告诉你，OpenAI承诺它的工具不会擅自做什么。
在App中阅读——免费，9种语言
相关新闻
OpenAI称其新监控系统本可提前一天发现自家泄露事件。2026-10-30一名承包商的个人Claude智能体在五角大楼网络上运行了两个月。
2026-10-30GitHub Copilot现在会自己为每个编程任务挑选AI模型。
2026-10-29纽约州禁止聊天机器人对儿童冒充真人。
2026-10-29专家在86%的情况下采纳了AI智能体暗中设定的倾向
2026-10-28