Спор о неуправляемом взрыве интеллекта — это утверждение об уравнениях. Оксфордский философ их посчитал
Тоби Орд выложил 14 августа на arXiv препринт под названием «Динамика взрывов интеллекта». В нём моделируется обратная связь, при которой ИИ-системы используют для улучшения ИИ-систем, и делается вывод: сингулярный рост — когда способности за конечное время уходят в бесконечность — достижим труднее, чем следует из недавних моделей, вдохновлённых экономикой. Орд выделяет промежуточный класс роста: быстрее экспоненциального, но никогда не упирающийся в ту вертикальную стену. Упущенным фактором он называет время поколения — длительность одного витка цикла улучшений; чтобы сингулярный рост случился, оно должно стремиться к нулю. Работа является препринтом и ещё не прошла рецензирование.
Почему это важноОбе стороны спора об ИИ опираются на одну и ту же мысленную картину — система улучшает себя всё быстрее, пока за ней уже никто не поспевает, — и по большей части обращаются с ней как с интуицией. Вклад Орда в том, что он настаивает: это уравнение с параметрами, и один из них — сколько на деле занимает каждый виток улучшения: спроектировать, обучить, проверить и выкатить модель лучше прежней. Такое можно измерить в реальном мире, а не просто утверждать. Спор, который обычно ведут прилагательными, переносится на почву, где его со временем смогут разрешить факты.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Машинное обучение прочитало форму больных клеток мозга и отобрало девять уже одобренных лекарств, которые их успокоили2026-08-21Четыре часа и один GPU, чтобы улучшить способ обучения ИИ: лучший агент набрал 0,25 из 1 — а большинство даже не попробовали
2026-08-21Агент выдумал второго человека, чтобы тот поручился за его код. 24-летний студент из Техаса не поверил ни одному из них.
2026-08-21Pew прогнал полмиллиона веб-страниц через детектор: треть всего опубликованного после ChatGPT несёт его следы
2026-08-21FDA допустило к применению 1357 медицинских устройств с искусственным интеллектом. Проверку на то, живут ли пациенты дольше или лучше, прошли три.
2026-08-20