Configuraré, validaré y solucionaré problemas de tu clúster de GPU e infraestructura de IA

Tienes GPUs. Necesitas que funcionen como una plataforma de cómputo confiable.

Construyo y gestiono infraestructura de GPU y HPC en producción: aprovisionamiento, validación de controladores y pila CUDA, programación, redes de alta velocidad y monitoreo. Trabajo en la capa de infraestructura. No soy ingeniero de ML y no pretendo serlo.

LO QUE HAGO

Arranque de nodos GPU: alineación de controladores NVIDIA, toolkit CUDA y tiempo de ejecución, modo persistente, MIG

Validación de salud: diagnósticos DCGM, triage de errores Xid y ECC, verificaciones térmicas y de energía

Comunicación entre múltiples nodos GPU: pruebas nccl-tests de all-reduce, ajuste de NCCL, validación de rutas de red

Programación: particiones GPU SLURM y GRES, cgroups y vinculación, o Kubernetes con el plugin de dispositivos NVIDIA y GPU Operator

Monitoreo: Prometheus, exportador DCGM, paneles de Grafana

Automatización: roles de Ansible para que la construcción sea repetible

ANTES DE PEDIR

Envíame un mensaje con el número de nodos, modelo de GPU, interconexión y lo que estás viendo. Si no es algo que pueda solucionar realmente, te lo diré.

Recibirás configuración funcional, resultados de benchmarks mostrando qué cambió y documentación escrita.