Пять лабораторий спросили, что они сделают, если модель вырвется. Лучший ответ получил 3 из 5

22 августа Guidelight AI Standards опубликовала оценку того, что Anthropic, Google, OpenAI, Meta и xAI публично зафиксировали о контроле над собственными системами; она основана на документах, доступных по состоянию на 18 августа. Шесть практик оценивались по шкале от 0 до 5: ведение журналов и наблюдение за тем, что модели делают внутри; остановка системы после всплеска отмеченного нарушающего поведения; допуск независимых третьих сторон к аудиту средств контроля с публикацией результатов; и наличие реального плана по сдерживанию сорвавшейся модели. Ни одна компания не набрала выше 3 ни по одной практике, большинство оценок — 2 и ниже. Выше всех оказалась OpenAI с 3 из 5, ниже всех — Anthropic и Meta. Главный научный сотрудник Guidelight Стивен Адлер сказал, что его удивило, как мало компании написали о действиях при очень серьёзном инциденте.

✓ Проверено · 2 источников

Похожие новости