Новые модели
AI Minute Newsroom
2026-11-15
Новые открытые модели IBM игнорируют команды, спрятанные в документах
IBM 12 ноября выпустила две небольшие открытые модели, которые помечают, где инструкция, а где данные. В собственных тестах IBM успешность скрытых атак упала с более чем половины до менее 6 процентов. Модели остаются экспериментальными, и IBM предупреждает, что эта защита выучена и не должна быть единственной.
Почему это важноИИ-агентов, читающих почту и веб-страницы, можно перехватить подброшенным туда текстом. Разделение команд и содержимого на базовом уровне остаётся одним из немногих структурных решений.
✓ Проверено · 3 источников
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Новая модель изображений Kling от Kuaishou создаёт картинки в 8K.
2026-11-19Сотрудники Meta опасаются, что агент Muse перепутал банковские данные.
2026-11-19Аризона начала уголовное расследование против OpenAI из-за ИИ-агентов.
2026-11-19OpenAI заявила, что агенты выполняют 46% задач её учёных на полдня.
2026-11-19Модель среднего класса Gemini 4 Neon обошла флагман Google в тестах.
2026-11-19