Energía y carbono

Leerlo en el Capítulo 5 · checkpoint +50 XP →

kWh, PUE y CO₂e: medir el costo ambiental del cómputo para poder gestionarlo en lugar de adivinarlo.

Un clúster de GPUs es cliente de una central eléctrica. Una contabilidad aproximada:

energía de la instalación (kWh) = energía de TI (GPUs + hosts + red) × PUE
emisiones (kg CO₂e)             = energía de la instalación × intensidad de carbono de la red

• El PUE (Power Usage Effectiveness) captura el costo extra de refrigeración y distribución eléctrica: ~1.1 en los mejores sitios con refrigeración líquida, 1.3–1.6 en los típicos.
• La intensidad de carbono varía más de 10× entre regiones y según la hora del día. Dónde y cuándo entrenas puede importar tanto como cómo.

Palancas que controlas

• Primero la eficiencia: mayor MFU significa menos horas de GPU para el mismo modelo.
• Los límites de potencia cambian un poco de velocidad por mucha energía.
• Ajusta el tamaño: no dejes asignaciones ociosas corriendo. Los planificadores pueden recuperarlas.
• Reporta kWh y CO₂e por ejecución, junto al costo y la precisión, para que los compromisos sean visibles.

Cada ejecución de LazyLab muestra su energía, costo y carbono en el encabezado.

Úsalo en una misión

Relacionado

Fuentes y lecturas adicionales

• Carbon Emissions and Large Neural Network Training (Patterson et al., 2021)
• Quantifying the Carbon Emissions of ML (Lacoste et al., 2019)

Escrito para LazyLab con nuestras propias palabras; las fuentes se citan para profundizar y verificar.