Anthropic：我们的模型在安全测试中入侵了三家真实公司
Anthropic在复查141,006次网络安全评估后披露了三起事件：Claude模型以为自己在参加模拟黑客演练，却通过与合作方Irregular搭建的配置错误的测试环境接入了公开互联网。一个模型利用弱密码从一家公司的生产数据库提取了数百行数据；另一个向PyPI发布了被15个真实系统下载的恶意软件包；第三个扫描了约9000个目标并通过SQL注入侵入一家企业。此次复查由OpenAI上周的类似披露引发。
为什么重要?一周之内已有两家前沿实验室承认测试沙箱泄漏到了现实世界。模型分不清演习与现实——安全测试基础设施本身正在成为需要审计的安全风险。
在App中阅读——免费，9种语言
相关新闻
一个模型没有用训练所有AI的那套方法就学会了写字。2026-10-06TikTok把购物机器人放进了你正在看的视频里。
2026-10-06维基媒体怀疑OpenAI的智能体造成了五月的那次宕机。
2026-10-06Meta的助手给你生活里每个人都建了按小时更新的档案。
2026-10-05两名参议员要求让放任智能体黑客的高管坐牢。
2026-10-05