aiminute. ← 全部AI新闻
新模型 AI Minute Newsroom 2026-11-15

IBM新开源模型学会无视藏在文档里的指令

IBM新开源模型学会无视藏在文档里的指令

IBM于11月12日发布两款小型开源模型,能标记哪些文字是指令、哪些是数据。在IBM自己的测试中,隐藏攻击的成功率从一半以上降到6%以下。模型仍是实验性预览版,IBM提醒这种防护是习得行为,不应作为唯一防线。

为什么重要?会读邮件和网页的AI智能体,可能被埋在其中的文字劫持。从底层把命令和内容分开,是目前少有的结构性解法之一。
#AI智能体

✓ 已核实 · 3个来源

WhatsApp X Telegram
在App中阅读——免费,9种语言

相关新闻

快手发布可灵图像新模型,可直接生成原生8K图片。
2026-11-19
Meta员工担心其Muse智能体弄混了用户的银行信息。
2026-11-19
亚利桑那州就失控的银行AI智能体对OpenAI展开刑事调查。
2026-11-19
OpenAI称智能体能独立完成研究员46%的半日任务。
2026-11-19
谷歌中端模型Gemini 4 Neon在测试中超过自家旗舰。
2026-11-19