可中断 GPU 价格：风险与回报

可中断价格是指平台以远低于标准小时费率的价格出租闲置 GPU 容量。作为交换，当平台需要这些容量供标准租户使用时，保留以短时间通知将您停止的权利。

该模式与云计算中的“Spot/可抢占实例”相同：折扣是用中断风险换来的灵活性。

闲置的 GPU 不会为平台带来任何收入，而电费和折旧仍在持续。以低价填满这部分容量，高于边际成本的每个小时都是纯收益。

价格本身随供需波动：繁忙时段上涨，容量充裕时可降至标准费率的一半甚至更低。

中断通常由需求上升触发：以标准费率租用的客户开始占用容量时，可中断租户会按优先级首先被收回。通知窗口很短，GPU 会被立即收回；持久化磁盘数据通常会保留，因此您可以从中断处继续。

对可中断租户而言，真正的问题不是“我会被中断吗？”，而是“被中断时我会损失什么？”

举个简单的例子：标准费率为 $1.20/h，可中断费率为 $0.45/h，每小时节省 60%。但每次中断都会增加重启和预热成本：如果您的工作负载每次中断平均损失 20 分钟，对于每 4 小时被中断一次的任务，实际成本差距会明显缩小。

正确的公式是：预期成本 = 小时费率 ×（使用小时数 + 重启所花小时数）。在投入长期项目之前，先用几天测试衡量中断频率。

• 定期保存检查点；有持久化磁盘时，中断只会损失时间。
• 优先选择无状态、确定性的任务：渲染、仿真、超参数扫描、数据预处理。
• 把工作拆成小块并通过队列运行；设备被中断时，队列会转移到其他容量上。
• 能够在多台设备/多个区域并行运行的设计，可以分散中断概率。

在单张 GPU 上顺序推进、检查点成本高且有严格截止时间的训练任务不适合可中断模式，应使用标准租用。规则很简单：中断意味着延迟还是数据丢失？如果是延迟，可以考虑可中断；如果是丢失，绝对不要。