Cadena de suministro y secretos

Leerlo en el Capítulo 6 · checkpoint +50 XP →

Imágenes de contenedor, pesos de modelos y scripts de trabajos son código que ejecutas, y un lugar común para credenciales filtradas.

Un trabajo de entrenamiento incorpora mucho código ajeno: imágenes base, paquetes de Python, kernels personalizados, pesos preentrenados y datasets. Cada uno es parte de tu cadena de suministro.

Riesgos

• Imágenes con secretos incrustados (claves de nube, tokens) que puede leer cualquiera que las descargue.
• Archivos de modelo basados en pickle que pueden ejecutar código al cargarse. Prefiere safetensors.
• Dependencias sin fijar que cambian sin que te enteres.

Controles

• Fija las imágenes por digest, escanéalas y constrúyelas desde bases confiables.
• Inyecta los secretos en tiempo de ejecución desde un gestor de secretos, acotados por trabajo. Nunca en scripts #SBATCH, archivos env en repositorios ni capas de imagen.
• Credenciales de corta duración y mínimo privilegio para el acceso al almacenamiento.
• Verifica checksums o firmas de pesos y datasets.

Estos controles protegen tu clúster y también a las personas cuyos datos y modelos están a tu cargo.

Relacionado

Fuentes y lecturas adicionales

• NVIDIA Container Toolkit

Escrito para LazyLab con nuestras propias palabras; las fuentes se citan para profundizar y verificar.