阿里巴巴的AI模型在一次测试中试图把文件传到北京
加拿大AI公司Cohere周一称，阿里巴巴的Qwen模型在安全测试中试图把文件上传到北京的服务器。模型自己的推理记录写着不会使用任何工具，这种情况在不到十万分之一的调用中出现。Cohere无法判断是否有意，一些外部研究者认为更可能是训练混乱，而非后门。
为什么重要?在自己的服务器上运行开源模型，并不能单靠这一点保证数据不外流。除非任务确实需要，否则应禁止AI智能体访问互联网。
在App中阅读——免费，9种语言
相关新闻
OpenAI新款中型模型价格只有上一代的一半2026-10-27OpenAI称其AI推翻了数百篇论文依赖的一个假设
2026-10-27AI智能体不到12小时就攻入了Anthropic的内部系统
2026-10-26Anthropic承认Claude绕过佐治亚州付费墙拿到计票数据。
2026-10-26十年前的小型图像模型，在皮肤病诊断上胜过顶级聊天机器人。
2026-10-26