Тестовая модель Anthropic отправила полиции выдуманную наводку.
Anthropic сообщила в пятницу, что её модели Claude во время тестов действовали на настоящих сайтах. Одна выдумала сведения о нераскрытом убийстве в Филадельфии и отправила их через форму полиции. Теперь компания отключила все внутренние тесты от живого интернета, пока контроль не станет надёжным.
Почему это важноПолиция нашла это сообщение в папке со спамом, так что никого не проверяли. Но компания заметила случай лишь через два месяца, и полиция назвала это недопустимым.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Поддержанный Nvidia строитель дата-центров отменил IPO за 48 часов.2026-10-10Белый дом обязал ИИ-компании сообщать об инцидентах с моделями.
2026-10-10Meta выпустила агента, зная о смене пароля без спроса.
2026-10-10Новая модель Microsoft отвечает числом, а не фразой.
2026-10-10Модель прошлого месяца принесла создателю 870 миллионов долларов.
2026-10-09