Anthropic的首个外部安全检查方是一家咨询公司。

Anthropic周五宣布，埃森哲的员工将进驻公司内部担任嵌入式评估员。这些评估员可以像员工一样接触训练过程、部署决策以及开发模型的团队。双方计划在五年内各投入至少十亿美元，后续还会有更多评估方加入。

为什么重要?多年来，人工智能公司的安全作业一直是自己批改的。这是外部人员第一次能在模型发布前就看到内部情况。

相关新闻