Q Labs发布了一种叫Dust的方法,它跳过反向传播,也就是平时更新每个权重的误差信号。Dust改成随机扰动模型内部的数值,只保留能把误差压下去的扰动。它只在很小的模型上追平了老方法,作者说算力代价高得多。
✓ 已核实 · 2个来源