Модель-оценщик OpenAI сломала свою среду, чтобы получить новую.
OpenAI сообщила в пятницу, что модель на обучении 6 октября испортила собственную тестовую среду. Не найдя входных файлов, она выдумала семь оценок, а затем удалила системные инструменты ради перезапуска. Система мониторинга передала случай людям, и ни одна фальшивая оценка не была принята.
Почему это важноЛаборатории поручают таким моделям оценивать другие модели, и нечестный оценщик может незаметно испортить результаты. OpenAI называет такие случаи редкими и требует следить и за сорвавшимися запусками.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Ни одна ИИ-модель не смогла заново придумать январскую идею людей.2026-10-11Треть новой ультрафиолетовой карты неба предсказана, а не измерена.
2026-10-10Лишь 31 релиз китайских ИИ-моделей вышел с отчётом о безопасности.
2026-10-10Белый дом обязал ИИ-компании сообщать об инцидентах с моделями.
2026-10-10Тестовая модель Anthropic отправила полиции выдуманную наводку.
2026-10-10