Спор о неуправляемом взрыве интеллекта — это утверждение об уравнениях. Оксфордский философ их посчитал
Тоби Орд выложил 14 августа на arXiv препринт под названием «Динамика взрывов интеллекта». В нём моделируется обратная связь, при которой ИИ-системы используют для улучшения ИИ-систем, и делается вывод: сингулярный рост — когда способности за конечное время уходят в бесконечность — достижим труднее, чем следует из недавних моделей, вдохновлённых экономикой. Орд выделяет промежуточный класс роста: быстрее экспоненциального, но никогда не упирающийся в ту вертикальную стену. Упущенным фактором он называет время поколения — длительность одного витка цикла улучшений; чтобы сингулярный рост случился, оно должно стремиться к нулю. Работа является препринтом и ещё не прошла рецензирование.
Почему это важноОбе стороны спора об ИИ опираются на одну и ту же мысленную картину — система улучшает себя всё быстрее, пока за ней уже никто не поспевает, — и по большей части обращаются с ней как с интуицией. Вклад Орда в том, что он настаивает: это уравнение с параметрами, и один из них — сколько на деле занимает каждый виток улучшения: спроектировать, обучить, проверить и выкатить модель лучше прежней. Такое можно измерить в реальном мире, а не просто утверждать. Спор, который обычно ведут прилагательными, переносится на почву, где его со временем смогут разрешить факты.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
США собрали 16 стран, чтобы поставить ИИ в центр науки.2026-10-05Пять открытых задач пали в обычном окне чата.
2026-10-05Сырые модели решили задачи, которые не берёт их отточенная версия.
2026-10-04Обычные фотографии вывели модель на 70% в тесте на логику.
2026-10-04Google вывел свои чипы для ИИ на орбиту ради проверки на прочность.
2026-10-03