一个叫Strata的免费安装器,把巨大的Qwen模型拆到显卡和内存里跑。只要一张十二吉显存的显卡,速度在每秒五十三到九十四个token之间。这个项目只有十天大,GitHub上的星标已经超过九千六百。
✓ 已核实 · 3个来源