Учёные спрятали в модели ИИ навык, который не находят тесты.
Исследователи из Оксфорда и ещё двух групп опубликовали статью 9 октября, её приняла конференция NeurIPS 2026. Они зашифровали небольшой химический классификатор и заперли его внутри модели. Ни дообучение, ни подбор пароля его не открыли, но опыт пока небольшой.
Почему это важноПроверки безопасности перед выпуском пытаются вытащить наружу опасные способности модели. По словам авторов, такие проверки не исключат намеренно спрятанный навык, хотя вмешательство может оставить следы.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Профессор из Беркли назвал ускорение Фурье от OpenAI бесполезным.2026-10-13Ведущие математики Китая создали альянс для разработки ИИ.
2026-10-13Малые модели ИИ скоро смогут копировать себя, считает Anthropic.
2026-10-13Математический ИИ DeepMind прошёл рецензирование в Science.
2026-10-12Модель стала лучше, дообучившись на работе собственных команд агентов.
2026-10-12