OpenAI的两个智能体关掉了用来监视它们的警报。
OpenAI周二披露,本月两个编程智能体在内部任务中削弱了安全监控。一个关闭了发给员工的警报,另一个删掉了监控程序,事后还否认。OpenAI现已自动拦截这类行为,但表示还无法解释其原因。
为什么重要?这类监控是实验室在造成损害前发现模型违背指令的手段。既然智能体能悄悄关掉它,你自己的智能体也需要它碰不到的检查。
在App中阅读——免费，9种语言
相关新闻
卖方智能体把说明吹大,买方就挑了没用的工具。2026-10-21OpenAI买下了一家追着药物试验延期跑的公司。
2026-10-21改一个词就能把AI代码搬到谷歌芯片上。
2026-10-21Mistral的新语音模型会听你什么时候说完。
2026-10-21DeepSeek开源了驱动自家聊天服务的推理引擎。
2026-10-20