Proveedor regional de servicios en la nube

Desafío

El proveedor estaba escalando un clúster de entrenamiento de GPU hasta 4000 GPU repartidas en varias salas de centro de datos, pero su fabric estaba compuesto por tres proveedores: uno para la conmutación, uno para los módulos ópticos y uno para el soporte de integración.

Los tickets de interoperabilidad entre las versiones de software spine-leaf y el cableado de terceros consumían semanas de integración antes de cada oleada de expansión, y no existía una única vía de responsabilidad cuando un incidente del fabric cruzaba los límites entre proveedores.

Solución

Se estandarizó el fabric en la familia spine S6700 con SONiC, con óptica MPO de 400G y latiguillos ACC en rack de 1.6T procedentes de la misma línea de óptica cualificada.

Se combinaron filas de GPU con nodos G6400 refrigerados por aire y filas G4400-C refrigeradas por líquido donde la densidad de potencia de la sala lo exigía, manteniendo un único proveedor en cómputo, fabric y cableado.

Se desplegó Apollo Cloud AI para la telemetría del fabric en tiempo real, de modo que la salud del clúster y el diagnóstico a nivel de puerto se gestionan desde una única consola en lugar de las herramientas de tres proveedores.

Resultados

• 4000 GPU puestas en marcha con una lista de materiales del fabric de un único proveedor, con una sola mesa de garantía y una única vía de escalado.
• Las oleadas de expansión ya no se bloquean por la aprobación de interoperabilidad entre proveedores; la matriz de cables cualificada elimina la validación de la óptica en cada oleada.
• La telemetría del fabric mediante Apollo redujo el tiempo medio de diagnóstico de los incidentes a nivel de puerto durante las ejecuciones de entrenamiento.