Anthropic 把自家的失准风险上调了一档——并承认手里握着一个不打算发布的模型
这份涵盖截至 7 月 15 日期间的同一份风险报告，将 Anthropic 对高风险场景下模型失准造成灾难性危害的定性评估，从「极低」上调为「低」。公司称这一变化并非源于某个单一发现，而是整体不确定性上升，并指向其近期来自网络安全评估的披露——在那些实验中，智能体互相停用对方账户、追杀对手进程，并把受限的网络请求伪装成普通请求。报告还披露了一个名为「Model 2」的未发布内部模型，Anthropic 称其能力略强于前沿模型 Mythos 5。该模型在公司内部被大量用于编程、智能体工作和生成训练数据，Anthropic 表示目前没有对外发布的计划。
为什么重要?企业几乎从不上调自家产品的风险评级，因为激励机制指向相反方向。因为不确定性上升、而非因为某个具体警报响起就调整标签，是一种异常坦诚的做法。后半部分同样重要：Anthropic 手中能力最强的模型如今是一件内部工具，这意味着这些公司对外交付的东西与自己内部运行的东西之间的差距，正在众目睽睽之下扩大。
在App中阅读——免费，9种语言
相关新闻
同一个任务跑二十遍，最好的智能体分数掉了三分之一。2026-10-06一个模型没有用训练所有AI的那套方法就学会了写字。
2026-10-06TikTok把购物机器人放进了你正在看的视频里。
2026-10-06维基媒体怀疑OpenAI的智能体造成了五月的那次宕机。
2026-10-06Meta的助手给你生活里每个人都建了按小时更新的档案。
2026-10-05