Dos nodos, un trabajo

Tu primer trabajo de entrenamiento multinodo ni siquiera se puede enviar. Arregla el script.

Briefingclic para contraer

Una investigadora te dejó train.sh: un entrenamiento de 7B que debería usar 2 nodos × 8 H100. Dice que "simplemente da error". Haz que corra en ambos nodos y asegúrate de que los nodos se comuniquen por InfiniBand, no por la Ethernet lenta de administración.

Comandos útiles: cat train.sh, nano train.sh, sinfo, sbatch train.sh, squeue, cat slurm-<jobid>.out.

tiempo sim. 0:00energía 0.00 kWhcosto $0.00carbono 0.00 kg CO₂e

Clúster4 × 8 H100 SXM 80GB · IB-NDR

node-1

inactivo

node-2

inactivo

node-3

inactivo

node-4

inactivo

0%100% util▲ limitada✕ perdidatoca una GPU para ver detalles

Misión: Dos nodos, un trabajo. Eres ops@login-1 con sudo.

Escribe `help` para ver comandos y `cat README.md` para las notas. Los objetivos se verifican solos (panel derecho). La salida de la terminal está en inglés, como en un clúster real.

ops@login-1:~$

Objetivos0/2 cumplidos

Un trabajo de entrenamiento corre en 2 nodos × 8 GPUs
El tráfico entre nodos usa InfiniBand (≥ 200k tokens/s)

−33 pts cada una

Alertastodo en orden

Sin alertas. Noche tranquila.

Panelesúltimos 0s · pasa el cursor para ver valores

Rendimiento de entrenamiento—

MFU (mejor trabajo)—

Utilización media de GPU—

Potencia de la instalación—

GPU más caliente—