Прерываемые цены на GPU: расчёт риска и выгоды

Прерываемая цена — это аренда простаивающей GPU-ёмкости платформы заметно ниже стандартной часовой цены. Взамен платформа оставляет за собой право остановить вас коротким уведомлением, когда ёмкость понадобится стандартным арендаторам.

Модель — то же самое, что подход «spot/прерываемых экземпляров» в облачных вычислениях: дешевизна — это гибкость, купленная за риск прерывания.

Простаивающая GPU не приносит платформе никакого дохода, а электричество и амортизация продолжают тикать. Заполнение этой ёмкости по низкой цене — чистая выгода для каждого часа выше предельной стоимости.

Сама цена тоже колеблется по спросу и предложению: в загруженные периоды прерываемая цена растёт, в периоды простоя может падать до половины стандартной цены и ниже.

Прерывание обычно срабатывает на росте спроса: когда клиент, желающий арендовать по стандартной цене, начинает заполнять ёмкость, прерываемые арендаторы вытесняются с верхней ступени приоритета. Окно уведомления короткое, и GPU отзывается мгновенно; постоянные данные на диске обычно сохраняются, и вы можете продолжить с того места, где остановились.

Поэтому для прерываемого арендатора главный вопрос не «остановят ли меня?», а «что я потеряю, когда остановят?».

Простой пример: если при стандартной цене $1,20/час прерываемая цена $0,45/час, экономия в час — 60%. Но каждое прерывание добавляет стоимость перезапуска и прогрева: если предположить, что нагрузка в среднем теряет 20 минут при каждом прерывании, то при прерывании раз в 4 часа разница в эффективной стоимости заметно сокращается.

Правильный расчёт: ожидаемая стоимость = цена в час × (использованные часы + часы, потраченные на перезапуск). Не давайте долгосрочных обязательств по проекту, пока не измерите частоту прерываний несколькодневным тестом.

• Регулярно сохраняйте контрольные точки (checkpoint); если диск постоянный, прерывание — лишь потеря времени.
• Отдавайте предпочтение stateless и детерминированным задачам: рендер, симуляции, перебор гиперпараметров, предобработка данных.
• Разбивайте работу на мелкие части и запускайте через очередь; если устройство остановили, очередь переходит на другую ёмкость.
• Архитектура, способная работать параллельно в нескольких регионах и на нескольких картах, распределяет вероятность прерывания.

Последовательные обучающие задачи на одной GPU с дорогой стоимостью контрольной точки и критичным сроком сдачи не подходят для прерываемой модели; такие задачи должны работать на стандартной аренде. Правило просто: прерывание — это задержка или потеря данных? Если задержка — прерываемую модель можно рассмотреть; если потеря — никогда.