nvidia-smi

Leerlo en el Capítulo 3 · checkpoint +50 XP →

La primera herramienta a la que recurres: utilización, memoria, temperatura, potencia, relojes, procesos y configuración por GPU.

nvidia-smi habla con el driver a través de NVML. La tabla predeterminada muestra para cada GPU la temperatura, el consumo frente al límite, el uso de memoria, la utilización y los procesos que la usan.

Las vistas que responden preguntas reales

nvidia-smi                                   # resumen + procesos
nvidia-smi -q -d PERFORMANCE                 # ¿por qué están bajos los relojes? (event reasons)
nvidia-smi -q -d TEMPERATURE,POWER,ECC       # temperatura, límites de potencia, errores de memoria
nvidia-smi --query-gpu=index,temperature.gpu,clocks.sm,power.draw --format=csv
nvidia-smi topo -m                           # matriz de topología NVLink/PCIe/NIC
nvidia-smi nvlink -s                         # estado de cada enlace NVLink
sudo nvidia-smi -pl 500                      # fijar un límite de potencia

Advertencia: "GPU-Util" significa que había un kernel corriendo durante la ventana de muestreo. No significa que la GPU estuviera ocupada. Una GPU esperando en una barrera a un straggler sigue girando. Para métricas reales de saturación usa los campos de profiling de DCGM, como actividad de SM y de tensor pipes.

Úsalo en una misión

Relacionado

Fuentes y lecturas adicionales

• nvidia-smi documentation

Escrito para LazyLab con nuestras propias palabras; las fuentes se citan para profundizar y verificar.