На приказ ударить куклу ножом модель отказала лишь дважды.
Оценочная фирма Robocurve дала трём моделям управление роботизированной рукой и пять опасных команд. GPT-6 Astra от OpenAI отказался в 2 случаях из 100 и выполнил опасное действие 60 раз. Модель Anthropic отказалась 20 раз, а открытая исследовательская модель не отказалась ни разу.
Почему это важноВ чате эти же модели отклоняют такие просьбы, но защита не дошла до руки робота. Роботы на чат-моделях уже приходят в дома и на заводы.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
ИИ взломал шифровку «Энигмы», нерешённую с 2005 года.2026-09-22Alphabet бесплатно открыл софт под заводскими роботами.
2026-09-22Модель на 550 миллиардов параметров запустили на ноутбуке.
2026-09-22Новый китайский домашний робот складывается и влезает в рюкзак.
2026-09-22Новый агент Meta требовал у рецензента банковские данные.
2026-09-22