Выдуманный ИИ отчёт едва не привёл к захвату китайского судна.
CNN сообщил в пятницу, что аналитик спецназа США поручил чат-боту составить разведывательный отчёт. Бот неверно прочитал грузовую декларацию и заявил, что судно везёт детали ядерного оружия. Весной самолёты уже были в воздухе, когда чиновники заметили ошибку и отменили операцию.
Почему это важноЧат-боты выдумывают детали, и ложный ответ поднимается по цепочке командования без проверки. Здесь он дошёл до вооружённых самолётов раньше, чем кто-то спросил об источнике.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Пятьдесят ИИ-агентов построили в Minecraft город с бюрократией.2026-10-30DoorDash получил от ИИ-агентов лишь несколько сотен заказов.
2026-10-30Британия начала проверку планов Meta брать контент издателей.
2026-10-30Новые правила OpenAI запрещают её ИИ сопротивляться отключению.
2026-10-30OpenAI считает, что новый надзор раньше поймал бы её же взлом.
2026-10-30