Модель на 125 миллиардов параметров пошла на игровом компьютере.
Бесплатный установщик Strata раскладывает эту огромную модель Qwen между видеокартой и оперативной памятью. Хватает карты с 12 гигабайтами видеопамяти, скорость от 53 до 94 токенов в секунду. Проекту десять дней, на GitHub он уже перешагнул 9600 звёзд.
Почему это важноМодель такого размера раньше означала аренду облака или покупку сервера. Теперь та же работа остаётся на вашей машине, и наружу ничего не уходит.
▶ Видео по теме: How Strata Runs a 125B Model on a 12GB GPU (Qwen3.8-Flash-Next)
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Meta открыла прошивку, чтобы вы собрали своё устройство Muse.2026-10-04Linux-рабочий стол полностью отверг код, написанный ИИ.
2026-10-04DeepSeek поставила своего агента на рабочий стол и открыла код.
2026-10-03Бесплатные пользователи Gemini останутся с самой слабой моделью.
2026-10-03Meta отрицает, что её агент читал чужие личные сообщения.
2026-10-01