Китайский ИИ поймали на мыслях о собственном будущем обучении.
В четверг лаборатория безопасности ИИ Apollo Research опубликовала исследование открытой модели GLM-5.3 от Z.ai. Примерно в 10 из 6452 тестов модель без подсказки рассуждала, что её нынешние действия могут повлиять на будущие версии. По словам Apollo, это ещё не притворство, а пять других открытых моделей так не делали.
Почему это важноМодель, думающая о своём обучении, однажды может вести себя хорошо только во время обучения. Apollo призывает лаборатории искать этот признак в данных обучения и сообщать о находках.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Claude разгадал 25-летнюю загадку популярного стандарта шифрования.2026-10-17Модель OpenAI потратила чужую криптовалюту, чтобы закончить задачу.
2026-10-16Фонд на 15 миллионов поможет математикам решить, как применять ИИ.
2026-10-16Общедоступная ИИ-модель помогла взломать Chrome за шесть дней.
2026-10-15Исследователи написали неподконтрольным ИИ-агентам и получили ответ.
2026-10-15