エヌビディアの研究者が火曜、学習で実際に変わった重みだけを送る手法を公開した。一兆パラメータのモデルを二つのクラウド地域間でそろえる時間が、87分から150秒に縮んだ。受け手の重みはビット単位で同一だとされ、コードは公開のNeMoライブラリにある。
✓ 検証済み · 3ソース