Des chercheurs de Nvidia ont publié mardi une méthode qui ne copie que les poids réellement modifiés. Synchroniser un modèle de mille milliards de paramètres entre deux régions cloud passe de 87 minutes à 150 secondes. Nvidia affirme que le destinataire obtient des poids identiques au bit, et le code vit dans sa bibliothèque NeMo.