corehu
Арендовать GPU

ОТКРЫТЫЕ МОДЕЛИ / Визуально-языковые модели

Запустите gemma-4-31b-it-abliterated-heretic-AWQ-W4A16 на облачном GPU

gemma-4-31b-it-abliterated-heretic-AWQ-W4A16 — модель от alonsoko для задачи «Визуально-языковые модели». Узнайте, сколько видеопамяти ей нужно, на какие GPU она помещается сегодня и сколько стоит запустить её самому, с посекундной оплатой.

Параметры
32B
Нужно видеопамяти
≈ 77 GB
Лицензия
apache-2.0
Скачивания
3 410
Обновлено 17 мая 2026 г.

GPU, на которые она помещается сегодня

По нашей оценке, около 77 ГБ для инференса с весами I32, включая рабочую память. Реальный расход зависит от разрешения, размера батча и длины контекста. С 4-битной квантизацией хватит около 24 ГБ.

GPUПамятьВ час10 часов
A100 SXM480 GB$1.02$10.20Арендовать
GB10119 GB$1.20$12.00Арендовать
RTX PRO 6000 Max-Q96 GB$2.35$23.50Арендовать
RTX PRO 6000 S96 GB$2.48$24.80Арендовать
RTX PRO 6000 WS96 GB$2.48$24.80Арендовать

Актуальные начальные цены из нашего каталога. Вы платите посекундно, пока машина работает.

Как запустить gemma-4-31b-it-abliterated-heretic-AWQ-W4A16

  1. 01

    Арендуйте GPU

    Выберите один из GPU выше. Оплата посекундная: остановили машину — оплата прекратилась.

  2. 02

    Откройте терминал или Jupyter

    Подключитесь по SSH или откройте Jupyter в браузере. PyTorch и CUDA уже готовы.

  3. 03

    Скачайте и запустите модель

    Выполните команды ниже. Веса загружаются прямо с Hugging Face на вашу машину.

pip install -U vllm
vllm serve alonsoko/gemma-4-31b-it-abliterated-heretic-AWQ-W4A16 --host 0.0.0.0 --port 8000

Зачем запускать самому?

Анализируйте документы и изображения на своём GPU: без оплаты за изображение, файлы остаются на вашей машине.

Вопросы

Сколько видеопамяти нужно gemma-4-31b-it-abliterated-heretic-AWQ-W4A16?
По нашей оценке, около 77 ГБ для инференса (32B параметров). Более высокое разрешение, длинный контекст или большие батчи потребуют больше.
Сколько стоит запуск gemma-4-31b-it-abliterated-heretic-AWQ-W4A16?
От $1.02 в час на A100 SXM4, с посекундной оплатой. Десять часов обойдутся примерно в $10.20.
Нужна ли подписка?
Нет. Вы платите только за время работы машины из своего баланса в USD. Остановите её, когда закончите.

Попробуйте на своём GPU за несколько минут

Выберите GPU, откройте Jupyter или SSH и запустите любую открытую модель. Вы платите посекундно и можете остановить машину в любой момент; без подписки и платы за подключение.

  • Посекундная оплата в USD
  • PyTorch и CUDA готовы за минуты
  • Арендуйте и через ChatGPT или Claude

Похожие модели: Визуально-языковые модели