OpenAI хочет команду, которая докажет опасность её же модели.
OpenAI на этой неделе выпустила рамку, требующую доказать безопасность передового обучения до его продолжения. Другие команды пишут встречные сценарии, у руководителей есть вето, а при провале обучение останавливают. Компания называет это целью, а не сегодняшней практикой, и ограничивает обучением с подкреплением.
Почему это важноЛаборатории обычно проверяют модель перед выпуском, а не пока она ещё учится. Если решение сдвинуть раньше, модель можно остановить до того, как её кто-то получит.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Бесплатная китайская модель написала эксплойты для неизвестных дыр.2026-09-30Больше пятой части рецензентов применяли ИИ вопреки запрету.
2026-09-29Microsoft бросил 1024 агента на одну задачу без начальника.
2026-09-29ИИ нашёл расхождения почти во всех 4452 работах по экономике.
2026-09-29Неверное ИИ-резюме урезало воспоминания почти вдвое.
2026-09-29