Kündbare GPU-Preise: Risiko- und Gewinnrechnung

Der kündbare Preis ist die Vermietung ungenutzter GPU-Kapazität deutlich unter dem Standard-Stundensatz. Als Gegenleistung behält sich die Plattform das Recht vor, dich mit kurzer Ankündigung zu stoppen, wenn sie die Kapazität für Standard-Mieter benötigt.

Das Modell ist dasselbe wie das „Spot-/kündbare Instanz“-Vorgehen im Cloud Computing: Der günstige Preis ist gekaufte Flexibilität gegen Unterbrechungsrisiko.

Eine ungenutzte GPU erzeugt für die Plattform null Einnahmen; Strom und Abschreibung laufen aber weiter. Diese Kapazität zu günstigen Preisen zu füllen, ist für jede Stunde über den Grenzkosten reiner Gewinn.

Der Preis selbst schwankt mit Angebot und Nachfrage: In Zeiten hoher Nachfrage steigt der kündbare Preis, in Leerzeiten kann er auf die Hälfte des Standardpreises und darunter fallen.

Eine Unterbrechung wird typischerweise ausgelöst, wenn die Nachfrage steigt: Sobald ein Kunde zu Standardpreisen mietet und die Kapazität füllt, werden kündbare Mieter in umgekehrter Prioritätsreihenfolge entfernt. Das Ankündigungsfenster ist kurz und die GPU wird sofort zurückgeholt; die persistenten Disk-Daten bleiben in der Regel erhalten und du kannst an der Stelle fortfahren, an der du aufgehört hast.

Für den kündbaren Mieter ist daher nicht die Frage „Werde ich unterbrochen?“ entscheidend, sondern „Was verliere ich, wenn es passiert?“

Ein einfaches Beispiel: Wenn der Standardpreis $1.20/Std. und der kündbare Preis $0.45/Std. beträgt, beträgt die Ersparnis pro Stunde 60 %. Jede Unterbrechung fügt aber Kosten für Neustart und Aufwärmung hinzu: Wenn dein Workload bei jeder Unterbrechung im Schnitt 20 Minuten verliert, schrumpft der effektive Kostenunterschied bei einem Workload, der alle 4 Stunden unterbrochen wird, deutlich.

Die richtige Rechnung lautet: Erwartungskosten = Stundensatz × (genutzte Stunden + Stunden für Neustarts). Miss die Unterbrechungshäufigkeit mit einer mehrtägigen Testphase, bevor du dich für ein Langzeitprojekt festlegst.

• Speichere regelmäßig Checkpoints; wenn die Disk persistent ist, ist eine Unterbrechung nur ein Zeitverlust.
• Bevorzuge zustandslose, deterministische Aufgaben: Rendering, Simulation, Hyperparameter-Sweeps, Datenaufbereitung.
• Teile die Arbeit in kleine Stücke und arbeite mit einer Warteschlange; fällt ein Gerät aus, wandert die Warteschlange auf andere Kapazität.
• Eine Architektur, die parallel in mehreren Regionen/auf mehreren Karten läuft, verteilt das Unterbrechungsrisiko.

Sequentiell fortschreitende Trainingsaufträge auf einer einzigen GPU mit hohen Checkpoint-Kosten und kritischem Liefertermin eignen sich nicht für das kündbare Modell; diese Arbeiten sollten mit Standard-Mieten laufen. Die Regel ist einfach: Bedeutet eine Unterbrechung eine Verzögerung oder einen Datenverlust? Eine Verzögerung — kündbar ist denkbar. Ein Verlust — niemals.