Alimenta a la bestia
16 H100 corriendo al 26% de MFU. Ajusta la configuración por encima del 55% sin quedarte sin memoria.
Briefingclic para contraer
El trabajo 101 entrena un modelo de 7B en 2 nodos × 8 H100, pero el Model FLOPs Utilization ronda el 26%. La configuración de train.sh se copió de una pequeña prueba de depuración.
Lleva el trabajo a ≥ 55% de MFU. Todas las opciones de la línea train.py valen: --micro-batch, --grad-accum, --overlap/--no-overlap, --ckpt/--no-ckpt, --workers, --precision, --zero, --tp.
Flujo: nano train.sh → guardar → scontrol requeue 101 (vuelve a leer el script) → mira tail slurm-101.out. Busca errores de OOM y la marca "dataloader wait".
tiempo sim. 0:40energía 0.12 kWhcosto $0.46carbono 0.05 kg CO₂e
Clúster2 × 8 H100 SXM 80GB · IB-NDR
node-1
job 101 · llama7b
node-2
job 101 · llama7b
0%100% util▲ limitada✕ perdidatoca una GPU para ver detalles
Misión: Alimenta a la bestia. Eres ops@login-1 con sudo.
Escribe `help` para ver comandos y `cat README.md` para las notas. Los objetivos se verifican solos (panel derecho). La salida de la terminal está en inglés, como en un clúster real.
ops@login-1:~$
Objetivos0/2 cumplidos
- El trabajo de 7B entrena con ≥ 55% de MFU
- …usando todavía ambos nodos (16 GPUs)
−33 pts cada una
Alertastodo en orden
Sin alertas. Noche tranquila.
Panelesúltimos 40s · pasa el cursor para ver valores
Rendimiento de entrenamiento102.0k tok/s
MFU (mejor trabajo)25.9%
Utilización media de GPU59%
Potencia de la instalación12.3 kW
GPU más caliente60°C