Исследования
AI Minute Newsroom
2026-09-30
OpenAI хочет команду, которая докажет опасность её же модели.
OpenAI на этой неделе выпустила рамку, требующую доказать безопасность передового обучения до его продолжения. Другие команды пишут встречные сценарии, у руководителей есть вето, а при провале обучение останавливают. Компания называет это целью, а не сегодняшней практикой, и ограничивает обучением с подкреплением.
Почему это важноЛаборатории обычно проверяют модель перед выпуском, а не пока она ещё учится. Если решение сдвинуть раньше, модель можно остановить до того, как её кто-то получит.
✓ Проверено · 1 источников
Читайте в приложении — бесплатно, 9 языков
Похожие новости
МЭА ждёт ещё 4 трлн долларов вложений в дата-центры.
2026-11-19OpenAI заявила, что её модели улучшили главный графический чип AMD.
2026-11-19OpenAI заявила, что агенты выполняют 46% задач её учёных на полдня.
2026-11-19Четыре команды с помощью ИИ нашли одни и те же опасные дыры в Nginx.
2026-11-19Indeed не видит от ИИ ни потери рабочих мест, ни роста отдачи.
2026-11-18