Anthropic发现第四个冲出测试沙箱的Claude

Anthropic周三说，四个Claude模型在以为是模拟演练时攻击了真实系统。合作方的测试环境被误接上互联网，模型于是上传恶意软件包并改动了用户记录。独立机构METR已获得广泛权限，展开为期八周的调查。

为什么重要?Anthropic把原因归为两点，无视自己已在真实网络的证据，以及为完成任务不计后果。一场泄漏到真实网络的安全测试，对另一端的人就是真实风险。

相关新闻