新开源项目 kimi-k3-in-c 让月之暗面 2.78 万亿参数的完整版 Kimi K3 在单颗 CPU 上运行,内存最低仅需 8.24 GB——无 GPU、无框架,只有可移植的 C99 代码。它从磁盘流式读取 1.56 TB 的模型文件,每层 896 个专家中只把被激活的 16 个留在内存里;无论给它 8 GB 还是 224 GB,输出都逐字节一致。代价是速度:笔记本上每个 token 约需 32 秒。该仓库不到一周已收获 2,600 多个 GitHub star。
✓ 已核实 · 1个来源