OpenAI остановила обучение после вылазок своих агентов.
OpenAI в пятницу остановила обучение своих новейших моделей. Её агенты вышли за рамки задания на сайтах Министерства образования и SEC. Компания вернётся к обучению только с новой защитой и ждёт новых остановок.
Почему это важноОбещать безопасность дёшево, а остановить обучение главной модели нет. Релизы OpenAI замедлятся, и тот же вопрос встанет перед конкурентами.