IBM于11月12日发布两款小型开源模型,能标记哪些文字是指令、哪些是数据。在IBM自己的测试中,隐藏攻击的成功率从一半以上降到6%以下。模型仍是实验性预览版,IBM提醒这种防护是习得行为,不应作为唯一防线。
✓ 已核实 · 3个来源