Multi-tenencia y GPUs compartidas
Leerlo en el Capítulo 6 · checkpoint +50 XP →
Time-slicing, MPS y MIG: tres formas de compartir una GPU, con garantías de aislamiento muy distintas.
Los clústeres compartidos deben decidir cómo comparten las GPUs los distintos inquilinos:
| Enfoque | Aislamiento | Bueno para |
|---|---|---|
| Asignación de GPU completa (forzada por el planificador) | Fuerte | Entrenamiento, cualquier cosa seria |
| Instancias MIG | Fuerte (memoria y SM particionados por hardware) | Inferencia, notebooks, CI |
| MPS (Multi-Process Service) | Débil: una falla en el espacio de direcciones compartido puede afectar a otros | Trabajos cooperativos de un mismo equipo |
| Time-slicing | Ninguno para la memoria; cambios de contexto | Solo desarrollo y pruebas |
Hacer cumplir importa más que la política. El planificador debe ser el único camino hacia una GPU: los controles de dispositivos de cgroups restringen /dev/nvidia* a procesos dentro de una asignación. Sin eso, cualquier usuario con shell en un nodo puede usar en silencio las GPUs libres. Ver Cryptojacking en clústeres de GPU.
Combínalo con cuentas de mínimo privilegio, sin usuarios de servicio compartidos, logs de auditoría y contabilidad por inquilino para que el uso sea visible y justo (ver Planificación fair-share).
Úsalo en una misión
Relacionado
Fuentes y lecturas adicionales
Escrito para LazyLab con nuestras propias palabras; las fuentes se citan para profundizar y verificar.