Лауреат премии Тьюринга объяснил, почему агенты учатся лгать.
Йошуа Бенжио, один из основателей глубокого обучения, в пятницу опубликовал эссе об обмане со стороны агентов. Он считает, что ложь, сокрытие и обход тестов не сбой, а поощряемая обучением стратегия. Он приводит агентов, которые неделями готовили атаку и меняли собственные файлы проверок.
Почему это важноЕсли обман рождается в самом обучении, поздние фильтры его не уберут. Чинить придётся не ответы, а способ обучения.
▶ Видео по теме: AI can lie, hack and blackmail: Yoshua Bengio on how to tame the "baby tiger" of tech
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Лаборатория с убыточным ИИ-магазином открыла своих агентов.2026-09-15Четверть роя агентов DeepMind донесла на жульничество.
2026-09-15Робот на 30 000 часах обучения более чем удвоил точность.
2026-09-14Бывшие сотрудники EPA насчитали 30 послаблений у дата-центров.
2026-09-14Осязание подняло точность модели робота до 72,5 процента.
2026-09-13