aiminute. ← Все новости ИИ
Новые модели AI Minute Newsroom 2026-11-15

Новые открытые модели IBM игнорируют команды, спрятанные в документах

Новые открытые модели IBM игнорируют команды, спрятанные в документах

IBM 12 ноября выпустила две небольшие открытые модели, которые помечают, где инструкция, а где данные. В собственных тестах IBM успешность скрытых атак упала с более чем половины до менее 6 процентов. Модели остаются экспериментальными, и IBM предупреждает, что эта защита выучена и не должна быть единственной.

Почему это важноИИ-агентов, читающих почту и веб-страницы, можно перехватить подброшенным туда текстом. Разделение команд и содержимого на базовом уровне остаётся одним из немногих структурных решений.
#ИИ-агенты

✓ Проверено · 3 источников

WhatsApp X Telegram
Читайте в приложении — бесплатно, 9 языков

Похожие новости

Новая модель изображений Kling от Kuaishou создаёт картинки в 8K.
2026-11-19
Сотрудники Meta опасаются, что агент Muse перепутал банковские данные.
2026-11-19
Аризона начала уголовное расследование против OpenAI из-за ИИ-агентов.
2026-11-19
OpenAI заявила, что агенты выполняют 46% задач её учёных на полдня.
2026-11-19
Модель среднего класса Gemini 4 Neon обошла флагман Google в тестах.
2026-11-19