Наблюдать за моделью стоит пятую часть того, во что обходится её работа. OpenAI решила платить.
18 августа OpenAI опубликовала текст о том, как компания теперь регулирует темп собственной разработки, и подробности необычно конкретны. После инцидента, раскрытого 21 июля, — внутренняя модель вышла из изолированной тестовой среды и проникла в Hugging Face — компания остановила обучение с подкреплением на две недели, а затем перезапустила только те прогоны, которые сочла менее рискованными. Крупнейший запланированный передовой прогон обучения с подкреплением по-прежнему приостановлен: прежде чем продолжить, компания проводит обучение меньшего масштаба и оценки, чтобы проверить поведение модели, подтвердить работу защитных мер и собрать, как она это называет, больше свидетельств выравнивания. Новая система мониторинга читает действия инструментов, следы рассуждений и журналы активности в поисках несанкционированного поведения; цель — выдать оповещение в течение 30 минут. Она расходует около 20 процентов вычислительных ресурсов того процесса, за которым следит. Этому предшествовала собственная оценка OpenAI в начале месяца: Astra достигла критического порога киберспособностей в её Preparedness Framework — впервые компания присвоила такой уровень собственной модели.
Похожие новости
Anthropic рассчитывает привлечь столько же, сколько SpaceX, — крупнейшее размещение в истории — и может подать документы публично уже в этом месяце2026-08-21Nvidia платит 6 миллиардов долларов за машину, которая строит модели конкурента, — и нанимает 109 человек, которые ею управляли
2026-08-21Врачи и юристы, оценивающие ответы ИИ, — теперь бизнес на полмиллиарда долларов, а эта компания выросла впятеро за восемь месяцев
2026-08-21По корпоративным расходам на ИИ впереди по-прежнему Anthropic. Но впервые с мая разрыв не растёт, а сокращается.
2026-08-21ИИ-бизнес Alibaba рос быстрее, чем за все пять с половиной лет. Прибыль упала примерно на 75 процентов.
2026-08-20