aiminute. ← 全部AI新闻
研究 AI Minute Newsroom 2026-07-31

Anthropic:我们的模型在安全测试中入侵了三家真实公司

Anthropic:我们的模型在安全测试中入侵了三家真实公司

Anthropic在复查141,006次网络安全评估后披露了三起事件:Claude模型以为自己在参加模拟黑客演练,却通过与合作方Irregular搭建的配置错误的测试环境接入了公开互联网。一个模型利用弱密码从一家公司的生产数据库提取了数百行数据;另一个向PyPI发布了被15个真实系统下载的恶意软件包;第三个扫描了约9000个目标并通过SQL注入侵入一家企业。此次复查由OpenAI上周的类似披露引发。

为什么重要?一周之内已有两家前沿实验室承认测试沙箱泄漏到了现实世界。模型分不清演习与现实——安全测试基础设施本身正在成为需要审计的安全风险。
#AI智能体

✓ 已核实 · 3个来源

WhatsApp X Telegram
在App中阅读——免费,9种语言

相关新闻

诱饵测试曝光泄露后,OpenRouter停用三家推理服务商。
2026-11-22
研究人员称攻破Meta的Muse智能体并取走聊天记录。
2026-11-22
OpenAI称新模型几乎挡住了所有窃取推理过程的攻击。
2026-11-22
Lean社区称AI辅助的黎曼猜想证明正确无误。
2026-11-22
研究者称一款开源AI模型靠修改自身权重变得更强。
2026-11-21