英伟达新开源模型有 300 亿参数，但每次只用 30 亿——而且能在台式机上跑

英伟达于 8 月 11 日发布 Nemotron 3.5 Lightning：一个 300 亿参数的混合专家（MoE）模型，每个 token 仅激活 30 亿参数，上下文窗口最高 100 万 token，权重采用宽松的 OpenMDW-1.1 许可证——企业无需向英伟达申请即可下载、修改并在其上开发。该模型面向智能体工作中不起眼的那一半：代码审查、工具调用、监控安全告警、回答账单问题，也就是前沿模型会规划但不必亲自执行的步骤。英伟达称其输出速度最高可达同级模型的四倍，智能体任务完成速度快 30%，并给出 MMLU Pro 81.62、GPQA Diamond 75.57、SWE-bench Verified 52.80 的成绩。模型可在 RTX 电脑、DGX Spark、DGX Station 与 Jetson 板卡上本地运行，也可扩展到数据中心，已上架 Hugging Face、ModelScope 和 OpenRouter。同日英伟达还开源了 NeMo Switchyard 路由库，把工作流的每一步交给能胜任它的最便宜模型；按英伟达自己的基准，采用 Switchyard 路由的方案成本接近全程使用 Opus 4.8 的三分之一。

✓ 已核实 · 3个来源

相关新闻