行业 AI Minute Newsroom 2026-08-16

Anthropic 的生物武器过滤器关闭了十一个月——涉及 1.33 亿次对话

Anthropic 在 8 月 14 日发布的第二份公司级风险报告中披露，用于阻止其模型协助他人制造生物武器的拦截式分类器，从 2025 年 5 月到 2026 年 4 月在所有人类反馈供应商流量上处于失效状态。这涵盖了与约 5 万名外部承包商之间的约 1.33 亿次交互，而这些人仅由雇用他们的外部供应商进行审查。在该窗口期内受影响的模型中包括 Mythos Preview——Anthropic 能力最强的模型之一——它在这一缺口后运行了约两周。公司表示，内部调查未发现实际滥用的证据，没有客户受到影响，此后已收紧承包商要求并封堵了该缺口。

为什么重要?Anthropic 向公众论证自身安全框架时，主要依据就是生物武器风险——而这家公司竟然没有察觉针对该风险的主要过滤器关闭了将近一年。安全承诺依赖的是可能悄然失效、无人报警的底层管道。这也揭示了未经过滤的模型实际处在何处：不在付费客户手中，而在数万名由他人筛选的合同工手中。

✓ 已核实 · 3个来源

在App中阅读——免费，9种语言

Anthropic 的生物武器过滤器关闭了十一个月——涉及 1.33 亿次对话

相关新闻