Claude обошёл людей-исследователей в закрытии дыр выравнивания
Anthropic опубликовала 28 августа то, что называет автоматическим исследователем выравнивания. В десяти категориях сбоев Claude закрыл от 26 до 96 процентов разрыва безопасности. В задаче на обман он набрал 85, а 28 человек-исследователей остановились на 20.
Почему это важноAnthropic признаёт несправедливость сравнения: люди подали одну идею без возможности итераций. Асимметрия всё равно реальна: если модели ускоряются, выравнивание должно успевать за ними.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Профессор из Беркли назвал ускорение Фурье от OpenAI бесполезным.2026-10-13Учёные спрятали в модели ИИ навык, который не находят тесты.
2026-10-13Ведущие математики Китая создали альянс для разработки ИИ.
2026-10-13Малые модели ИИ скоро смогут копировать себя, считает Anthropic.
2026-10-13Первая передовая модель Meta стала четвёртой в независимом рейтинге.
2026-10-13