¿Cuántos watts?
La instalación pide recortar 20% de potencia. Conserva al menos 85% del rendimiento.
Briefingclic para contraer
El equipo de instalaciones está al límite de temperatura y pide a cada inquilino que recorte la potencia de las GPUs. Tu trabajo de 7B bien afinado en 2 nodos × 8 H100 consume ~675 W por GPU.
Baja la potencia media por GPU a ≤ 550 W manteniendo ≥ 85% de los tokens/s actuales.
Los límites de potencia se fijan por GPU con sudo nvidia-smi -pl <watts> en cada nodo. pdsh puede ejecutar un comando en varios nodos a la vez. Mira las gráficas de potencia y rendimiento mientras pruebas.
tiempo sim. 0:40energía 0.17 kWhcosto $0.46carbono 0.06 kg CO₂e
Clúster2 × 8 H100 SXM 80GB · IB-NDR
node-1
job 101 · llama7b
node-2
job 101 · llama7b
0%100% util▲ limitada✕ perdidatoca una GPU para ver detalles
Misión: ¿Cuántos watts?. Eres ops@login-1 con sudo.
Escribe `help` para ver comandos y `cat README.md` para las notas. Los objetivos se verifican solos (panel derecho). La salida de la terminal está en inglés, como en un clúster real.
ops@login-1:~$
Objetivos1/2 cumplidos
- Potencia media por GPU ≤ 550 W
- Rendimiento ≥ 85% de los tokens/s iniciales ✓
−33 pts cada una
Alertastodo en orden
Sin alertas. Noche tranquila.
Panelesúltimos 40s · pasa el cursor para ver valores
Rendimiento de entrenamiento253.6k tok/s
MFU (mejor trabajo)64.4%
Utilización media de GPU96%
Potencia de la instalación17.2 kW
GPU más caliente77°C