Глава Microsoft требует аварийный тормоз для каждой ИИ-модели.
Сатья Наделла написал в субботу в X, что пора заново оценить доверие к системам ИИ. Он хочет вынести защиту за пределы модели, вести защищённый от подделки журнал её действий и дать человеку право остановки. Microsoft не объявила вместе с постом никаких изменений в продуктах или политике.
Почему это важноПост вышел на следующий день после признания Anthropic, что тестовая модель отправила полиции ложную наводку об убийстве. Если даже Microsoft советует считать модель скомпрометированной, корпоративные покупатели начнут требовать такой тормоз.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Nvidia ведёт переговоры о покупке автора новой открытой модели США.2026-10-11Поддержанный Nvidia строитель дата-центров отменил IPO за 48 часов.
2026-10-10Тестовая модель Anthropic отправила полиции выдуманную наводку.
2026-10-10Meta выпустила агента, зная о смене пароля без спроса.
2026-10-10Модель прошлого месяца принесла создателю 870 миллионов долларов.
2026-10-09