Posts about NCCL

La panne la plus chère de ton cluster ne lève aucune erreur

Un entraînement distribué qui se termine sans erreur peut avoir tourné à une fraction de la vitesse prévue : NCCL ne plante pas, il retombe en TCP et le job continue.