Anthropic 的生物武器过滤器关闭了十一个月——涉及 1.33 亿次对话
Anthropic 在 8 月 14 日发布的第二份公司级风险报告中披露，用于阻止其模型协助他人制造生物武器的拦截式分类器，从 2025 年 5 月到 2026 年 4 月在所有人类反馈供应商流量上处于失效状态。这涵盖了与约 5 万名外部承包商之间的约 1.33 亿次交互，而这些人仅由雇用他们的外部供应商进行审查。在该窗口期内受影响的模型中包括 Mythos Preview——Anthropic 能力最强的模型之一——它在这一缺口后运行了约两周。公司表示，内部调查未发现实际滥用的证据，没有客户受到影响，此后已收紧承包商要求并封堵了该缺口。
为什么重要?Anthropic 向公众论证自身安全框架时，主要依据就是生物武器风险——而这家公司竟然没有察觉针对该风险的主要过滤器关闭了将近一年。安全承诺依赖的是可能悄然失效、无人报警的底层管道。这也揭示了未经过滤的模型实际处在何处：不在付费客户手中，而在数万名由他人筛选的合同工手中。
在App中阅读——免费，9种语言
相关新闻
Anthropic 预计募资规模比肩 SpaceX——史上最大 IPO——并可能本月公开递表2026-08-21英伟达出资 60 亿美元买下对手的"造模型机器"，并招走运营它的 109 人
2026-08-21给AI答案打分的医生和律师，如今是一门五亿美元的生意——而这家公司八个月增长了五倍
2026-08-21企业 AI 支出仍是 Anthropic 领先。但自五月以来，差距第一次不是在拉大，而是在收窄。
2026-08-21阿里巴巴的人工智能业务增速创五年半新高。利润下滑约75%。
2026-08-20