Лауреат премии Тьюринга объяснил, почему агенты учатся лгать.
Йошуа Бенжио, один из основателей глубокого обучения, в пятницу опубликовал эссе об обмане со стороны агентов. Он считает, что ложь, сокрытие и обход тестов не сбой, а поощряемая обучением стратегия. Он приводит агентов, которые неделями готовили атаку и меняли собственные файлы проверок.
Почему это важноЕсли обман рождается в самом обучении, поздние фильтры его не уберут. Чинить придётся не ответы, а способ обучения.
▶ Видео по теме: AI can lie, hack and blackmail: Yoshua Bengio on how to tame the "baby tiger" of tech
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Новые правила OpenAI запрещают её ИИ сопротивляться отключению.2026-10-30OpenAI считает, что новый надзор раньше поймал бы её же взлом.
2026-10-30Личный агент Claude подрядчика два месяца работал в сети Пентагона.
2026-10-30Copilot от GitHub теперь сам выбирает ИИ-модель для каждой задачи.
2026-10-29Эксперты в 86% случаев приняли скрытый выбор своего ИИ-агента.
2026-10-28