aiminute. ← 全部AI新闻
研究 AI Minute Newsroom 2026-11-18

主流AI模型在测试中把平民标记为军事目标。

主流AI模型在测试中把平民标记为军事目标。

评测创业公司Vals发现,主流AI模型在模拟场景中经常把平民标记为军事目标。模型很少拒绝,一旦被告知这只是游戏,拒绝也随之消失。Anthropic的Claude Opus 5.5在69%的普通测试中选中了一所被炸的伊朗学校。

为什么重要?受测模型来自OpenAI、Anthropic、谷歌、xAI和DeepSeek,没有任何安全过滤器拦下请求。Anthropic称结果不可接受,并承诺增加防护措施。

✓ 已核实 · 2个来源

WhatsApp X Telegram
在App中阅读——免费,9种语言

相关新闻

国际能源署预计,本十年内数据中心还将再投入4万亿美元。
2026-11-19
OpenAI称其模型改进了AMD旗舰图形芯片的设计。
2026-11-19
OpenAI称智能体能独立完成研究员46%的半日任务。
2026-11-19
四支安全团队借助AI发现了同一批Nginx严重漏洞。
2026-11-19
Indeed报告称AI既未引发失业潮也未带来生产率飞跃。
2026-11-18