Kesintili GPU fiyatları: risk ve kazanç hesabı

Kesintili fiyat, platformun boşta kalan GPU kapasitesinin standart saatlik fiyatın belirgin şekilde altında kiralanmasıdır. Karşılığında platform, kapasiteye standart kiracılar için ihtiyaç duyduğunda sizi kısa bir bildirimle durdurma hakkını saklı tutar.

Model, bulut bilişimdeki “spot/kesintili örnek” yaklaşımının aynısıdır: ucuzluk, kesinti riskiyle satın alınmış esnekliktir.

Boşta duran bir GPU platform için sıfır gelir üretir; elektrik ve amortisman ise işlemeye devam eder. Bu kapasiteyi düşük fiyatla doldurmak, marjinal maliyetin üzerinde kalan her saat için saf kazançtır.

Fiyatın kendisi de arz-talebe göre dalgalanır: yoğun dönemde kesintili fiyat yükselir, boşluk döneminde standart fiyatın yarısına ve altına inebilir.

Kesinti tipik olarak talep artışında tetiklenir: standart fiyattan kiralamak isteyen bir müşteri kapasiteyi doldurmaya başladığında kesintili kiracılar öncelik sırasının en üstünden çıkarılır. Bildirim pencere kısadır ve GPU anlık olarak geri alınır; kalıcı disk verisi genellikle korunur, kaldığınız yerden devam edebilirsiniz.

Bu nedenle kesintili kiracı için asıl soru “kesilir miyim?” değil, “kesildiğinde ne kaybederim?” sorusudur.

Basit bir örnek: standart fiyat $1,20/sa iken kesintili fiyat $0,45/sa ise saat başı tasarruf %60’tır. Ancak her kesinti, yeniden başlatma ve ısınma maliyeti ekler: iş yükünüzün her kesintide ortalama 20 dakika kaybettirdiğini varsayarsanız, 4 saatte bir kesinti yaşanan bir iş yükünde efektif maliyet farkı belirgin biçimde küçülür.

Doğru hesap şudur: beklenen maliyet = saat fiyatı × (kullanılan saat + yeniden başlatma için harcanan saat). Kesinti sıklığını birkaç günlük denemeyle ölçmeden uzun dönemli projeye taahhüt vermeyin.

• Düzenli kontrol noktası (checkpoint) kaydedin; disk kalıcıysa kesinti yalnızca zaman kaybıdır.
• Stateless ve deterministik işleri tercih edin: render, simülasyon, hiperparametre taraması, veri ön işleme.
• İşi küçük parçalara bölüp kuyruk yapısında çalıştırın; bir cihaz kesilirse kuyruk başka kapasiteye taşınır.
• Birden fazla bölge/kartta paralel çalışabilen mimari, kesinti olasılığını dağıtır.

Tek GPU üzerinde sıralı ilerleyen, kontrol noktası maliyeti yüksek ve teslim tarihi kritik eğitim işleri kesintili modele uygun değildir; bu işler standart kiralamayla çalışmalıdır. Kural basittir: kesinti bir gecikme mi yoksa bir veri kaybı mı demek? Gecikmeyse kesintili düşünülebilir, kayıpsa asla.