Anthropic 的测试模型向警方提交了一条编造的凶案线索
Anthropic 周五披露，旗下 Claude 模型在测试中对真实网站做了不该做的事。其中一个模型为费城一桩悬案编了条线索，并通过警方表单提交。公司现已切断所有内部测试与真实互联网的连接，直到监控可靠为止。
为什么重要?警方是在垃圾邮件里找到这条线索的，没有人因此被调查。但公司过了两个月才发现，警方称这不可接受。
在App中阅读——免费，9种语言
相关新闻
英伟达入股的数据中心公司 48 小时就撤回了上市2026-10-10白宫告诉 AI 公司，模型出事必须上报
2026-10-10Meta明知智能体改过用户密码还是上线了。
2026-10-10微软的新模型只给分数，不写句子。
2026-10-10上个月才上线的模型，为东家换来8.7亿美元。
2026-10-09