Prix GPU interruptibles : le calcul risque/gain

Le prix interruptible est la location d'une capacité GPU inutilisée nettement en dessous du tarif horaire standard. En contrepartie, la plateforme se réserve le droit de t'arrêter avec une courte notification quand elle a besoin de la capacité pour des locataires standard.

Le modèle est le même que l'approche « instances spot/interruptibles » du cloud computing : le bas prix, c'est de la flexibilité achetée contre le risque d'interruption.

Un GPU inactif ne génère aucun revenu pour la plateforme ; l'électricité et l'amortissement continuent de tourner. Remplir cette capacité à bas prix est un gain pur pour chaque heure au-dessus du coût marginal.

Le prix lui-même fluctue selon l'offre et la demande : en période de forte demande, le prix interruptible monte ; en période creuse, il peut descendre sous la moitié du prix standard.

L'interruption se déclenche typiquement quand la demande augmente : dès qu'un client qui veut louer au prix standard commence à remplir la capacité, les locataires interruptibles sont évacués dans l'ordre inverse de priorité. La fenêtre de notification est courte et le GPU est repris instantanément ; les données du disque persistant sont en général conservées et tu peux reprendre là où tu t'étais arrêté.

Pour le locataire interruptible, la vraie question n'est donc pas « vais-je être interrompu ? » mais « que perdrai-je si cela arrive ? »

Un exemple simple : si le prix standard est de $1.20/h et le prix interruptible de $0.45/h, l'économie est de 60 % par heure. Mais chaque interruption ajoute un coût de redémarrage et de montée en température : si ta charge perd en moyenne 20 minutes à chaque interruption, l'écart de coût effectif rétrécit nettement pour une charge interrompue toutes les 4 heures.

Le bon calcul est : coût espéré = prix horaire × (heures utilisées + heures perdues en redémarrages). Mesure la fréquence d'interruption avec un essai de quelques jours avant de t'engager sur un projet long.

• Enregistre régulièrement des checkpoints ; si le disque est persistant, une interruption n'est qu'une perte de temps.
• Privilégie les travaux sans état et déterministes : rendu, simulation, balayage d'hyperparamètres, prétraitement de données.
• Découpe le travail en petits morceaux et fais-le passer par une file ; si une machine tombe, la file migre vers une autre capacité.
• Une architecture qui fonctionne en parallèle sur plusieurs régions/cartes répartit la probabilité d'interruption.

Les travaux d'entraînement qui avancent séquentiellement sur un seul GPU, avec un coût de checkpoint élevé et une date de livraison critique, ne conviennent pas au modèle interruptible ; ils doivent tourner en location standard. La règle est simple : une interruption est-elle un retard ou une perte de données ? Un retard — l'interruptible est envisageable. Une perte — jamais.