Fournisseur cloud régional

Défi

Le fournisseur faisait évoluer un cluster d'entraînement GPU jusqu'à 4 000 GPU répartis sur plusieurs salles de son centre de données, mais son fabric était assemblé à partir de trois fournisseurs : un pour la commutation, un pour l'optique et un pour le support d'intégration.

Les tickets d'interopérabilité entre les versions logicielles spine-leaf et le câblage tiers consommaient plusieurs semaines d'intégration avant chaque vague d'extension, et aucun chemin de responsabilité unique n'existait lorsqu'un incident du fabric traversait les frontières entre fournisseurs.

Solution

Standardisation du fabric sur la famille de commutateurs spine S6700 exécutant SONiC, avec des modules optiques 400G MPO et des harnais ACC 1.6T en baie issus de la même gamme d'optiques qualifiées.

Association des rangées GPU de nœuds G6400 refroidis par air à des rangées G4400-C refroidis par liquide là où la densité de puissance de la salle l'exigeait, en maintenant un fournisseur unique pour le calcul, le fabric et le câblage.

Déploiement d'Apollo Cloud AI pour la télémétrie du fabric en temps réel, afin que l'état de santé du cluster et le diagnostic au niveau des ports soient centralisés dans une console unique au lieu des outils de trois fournisseurs.

Résultats

• 4 000 GPU mis en service avec une nomenclature fabric à fournisseur unique, un seul service de garantie et un seul chemin d'escalade.
• Les vagues d'extension ne sont plus bloquées par la validation d'interopérabilité inter-fournisseurs ; la matrice de câbles qualifiée supprime la validation des optiques à chaque vague.
• La télémétrie du fabric via Apollo a réduit le délai moyen de diagnostic des incidents au niveau des ports pendant les sessions d'entraînement.