中断可能 GPU の価格：リスクとリターン

中断可能価格とは、プラットフォームが空いている GPU の容量を標準の時間単価よりはるかに安く貸し出すものです。その代わり、標準テナントにその容量が必要になった場合、プラットフォームは短い予告で停止させる権利を持ちます。

このモデルはクラウドコンピューティングの「スポット／プリエンプティブルインスタンス」と同じで、割引は中断のリスクと引き換えに得る柔軟性です。

遊休中の GPU は、電気代と減価償却が発生し続けるのに、プラットフォームに何も稼ぎをもたらしません。その容量を低価格で埋めれば、限界費用を上回る時間はすべて純粋な利益になります。

価格自体は需給に応じて変動します。混雑する時期には上がり、容量に余裕があるときは標準料金の半額以下になることもあります。

中断は通常、需要の増加で発生します。標準料金で借りる顧客が容量を埋め始めると、中断可能なテナントが優先順位に従って最初に回収されます。予告期間は短く、GPU はすぐに引き上げられます。永続ディスクのデータは通常保持されるため、中断した場所から再開できます。

中断可能なテナントにとって本当の問いは「中断されるか？」ではなく、「中断されたとき何を失うか？」です。

簡単な例：標準料金が $1.20/h、中断可能料金が $0.45/h なら、1時間あたり60%の節約です。しかし中断のたびに再起動とウォームアップのコストが加わります。中断1回あたり平均20分を失うワークロードが4時間ごとに中断されると、実効的なコスト差は大きく縮まります。

正しい計算式は、期待コスト＝時間単価×（使用時間＋再起動に費やした時間）です。長期プロジェクトに踏み切る前に、数日間のテストで中断頻度を測定してください。

• チェックポイントを定期的に保存する。永続ディスクがあれば、中断で失うのは時間だけです。
• ステートレスで決定的な作業を選ぶ：レンダリング、シミュレーション、ハイパーパラメータ探索、データ前処理など。
• 作業を小さなチャンクに分けてキューから実行する。機器が中断されても、キューは別の容量に移ります。
• 複数の機器／リージョンで並列実行できる設計にすれば、中断の確率を分散できます。

単一の GPU で順次進行し、チェックポイントのコストが高く、厳しい納期があるトレーニングジョブは、中断可能モデルには向かず、標準レンタルで実行すべきです。ルールは単純です。中断は遅延か、それともデータ損失か？ 遅延なら中断可能は選択肢になります。損失なら、決して選んではいけません。