# Snapshot accélère les démarrages de workloads GPU à quelques secondes

_Publié le 10 novembre 2026 — https://ip73.fr/2026/11/10/snapshot-accelere-les-demarrages-de-workloads-gpu-a-quelques-secondes/_

Le système Snapshot, annoncé par github.com, apporte une solution pour réduire drastiquement les temps d'attente lors du déploiement de charges de travail utilisant des processeurs graphiques (GPU). Ce composant, conçu pour fonctionner nativement sous Kubernetes, permet de capturer l'état complet d'un pod GPU — incluant sa mémoire CPU et GPU — et de le restaurer sur n'importe quel nœud compatible. Le résultat est clair : un pod peut devenir opérationnel en quelques secondes au lieu des minutes souvent nécessaires pour un démarrage à froid.

Dans le domaine de l'inférence, ce délai d'initialisation est coûteux. Chaque fois qu'une réplique est ajoutée pour absorber un pic de demande, ou qu'un service redémarre, le modèle doit être rechargé dans la mémoire GPU, les bibliothèques CUDA initialisées et les graphes de calcul compilés. Pour les modèles volumineux, ce temps d'attente peut atteindre plusieurs minutes, ce qui ralentit l'autoscaling et pousse les équipes à surprovisionner des ressources GPU inutilisées.

Snapshot propose deux opérations. Le *checkpoint* permet de mettre en pause un pod en cours d'exécution et de sauvegarder son état d'exécution dans un artefact portable. Inversement, l'opération *restore* permet de démarrer un nouveau pod à partir de cet artefact. Le processus reprend exactement là où il s'était arrêté, sautant les étapes lourdes de chargement et de préparation.

## Le contrat de coopération pour les workloads GPU

Pour que ce système fonctionne, le workload doit coopérer avec le cycle de vie de checkpoint et de restauration. Il ne suffit pas de lancer l'application ; elle doit respecter un « contrat ». Ce contrat impose des étapes précises : le workload doit signaler quand il est « prêt pour le snapshot » et doit attendre une confirmation de l'agent du système avant de reprendre son exécution après restauration. C'est une coordination fine entre le logiciel applicatif et l'agent de nœud.

Le système utilise des ressources Kubernetes standard. Pour sauvegarder un pod en cours, on crée un `PodSnapshot`. Pour restaurer, on ajoute l'annotation `nvidia.com/restore-from` à un nouveau pod. Sous le capot, un opérateur de plan de contrôle et un agent par nœud exécutent les tâches de *checkpoint* et de *cuda-checkpoint* via CRIU.

Les benchmarks réalisés par des partenaires de conception montrent l'impact de cette optimisation. Pour des modèles MoE atteignant des checkpoints de 600 Go à 1 To sur huit GPU, les temps de restauration sont restés sous les 43 secondes. Cela représente une accélération de huit à trente-six fois par rapport aux temps de démarrage à froid, qui pouvaient varier entre six et dix-neuf minutes selon la configuration testée.

## Les conditions d'installation et les limites actuelles

L'installation de Snapshot nécessite un environnement Kubernetes spécifique. NVIDIA impose des conditions strictes : le cluster doit disposer de nœuds GPU sous Linux avec au moins le noyau 5.13, et il faut des versions récentes de l'opérateur GPU NVIDIA. De plus, un stockage partagé — soit une classe de stockage RWX, soit un bucket S3 — est indispensable pour héberger les artefacts de checkpoint.

Snapshot est présenté comme un bloc de construction pour les équipes qui construisent des contrôleurs Kubernetes ou des plateformes de service. Cependant, github.com précise que ses API peuvent encore changer, ce qui tempère l'idée d'un déploiement immédiat pour des charges de travail critiques. Les limites actuelles sont claires : les workloads doivent rester sur un seul nœud, car le multi-nœuds est prévu pour une phase ultérieure, et le support vGPU n'est pas inclus.

## Sources

- [GitHub - ai-dynamo/snapshot: Snapshot gets GPU pods ready in seconds instead of minutes — by restoring a fully initialized GPU worker…](https://github.com/ai-dynamo/snapshot), github.com
- [snapshot/docs/reference/workload-contract.md at main · ai-dynamo/snapshot](https://github.com/ai-dynamo/snapshot/blob/main/docs/reference/workload-contract.md), github.com
- [Start and Restore GPU Workloads in Seconds with NVIDIA Snapshot](https://developer.nvidia.com/blog/start-and-restore-gpu-workloads-in-seconds-with-nvidia-snapshot/), NVIDIA, 10 novembre 2026