Construye el pod
Especifica un pod de GPUs que entrene un modelo de 13B en dos semanas, dentro del presupuesto y la potencia disponible.
Briefingclic para contraer
Tu laboratorio consiguió fondos para preentrenar un modelo de 13B con 300 mil millones de tokens. Restricciones de finanzas e instalaciones:
- Capex ≤ $2.0M (GPUs, hosts, red)
- Potencia de la instalación ≤ 60 kW, incluida la refrigeración (PUE 1.3)
- Tiempo de entrenamiento ≤ 14 días
Elige la GPU, el número de nodos y la red. La estimación busca distribuciones de paralelismo (TP/PP/ZeRO/micro-batch) para cada diseño y reporta la mejor que cabe en memoria. Menos energía es mejor: es parte de tu puntuación.
Tu diseño8 GPUs por nodo
Capex✓ $0.74M/ $2.00M
Potencia de la instalación✓ 23 kW/ 60 kW
Tiempo de entrenamiento✕ 47.3 d/ 14.0 d
Energía para entrenar
26.0 MWh
Carbono
9.9 t
Mejor distribución
tp4 pp1 zero1 mb4
MFU / cuello de botella
57% · compute
Objetivos2/3 cumplidos
- Capex ≤ $2.0M ✓
- Potencia de la instalación ≤ 60 kW ✓
- Entrena 13B × 300B tokens en ≤ 14 días
−33 pts cada una