corehu
Арендовать GPU

ОТКРЫТЫЕ МОДЕЛИ / Визуально-языковые модели

Запустите d3:27b на облачном GPU

d3:27b — модель от Ollama для задачи «Визуально-языковые модели». Узнайте, сколько видеопамяти ей нужно, на какие GPU она помещается сегодня и сколько стоит запустить её самому, с посекундной оплатой.

Из описания проекта: Turn text, structured data, and images into scored choices, yes/no answers, and ratings.

Параметры
≈ 27B
Нужно видеопамяти
≈ 35 GB
Лицензия
—
Источник
Ollama

GPU, на которые она помещается сегодня

Около 35 ГБ видеопамяти: файл модели (по умолчанию 4 бита) плюс рабочая память.

GPUПамятьВ час10 часов
Q RTX 800045 GB$0.48$4.80Арендовать
CMP 170HX64 GB$0.62$6.20Арендовать
GB10119 GB$0.71$7.10Арендовать
A100 SXM480 GB$0.72$7.20Арендовать
RTX A600048 GB$0.72$7.20Арендовать

Актуальные начальные цены из нашего каталога. Вы платите посекундно, пока машина работает.

Как запустить d3:27b

  1. 01

    Арендуйте GPU

    Выберите один из GPU выше. Оплата посекундная: остановили машину — оплата прекратилась.

  2. 02

    Откройте терминал или Jupyter

    Подключитесь по SSH или откройте Jupyter в браузере. PyTorch и CUDA уже готовы.

  3. 03

    Установите Ollama и запустите модель

    Выполните команды ниже. Ollama скачает модель и поднимет OpenAI-совместимый API на порту 11434.

curl -fsSL https://ollama.com/install.sh | sh
ollama run d3:27b

Зачем запускать самому?

Анализируйте документы и изображения на своём GPU: без оплаты за изображение, файлы остаются на вашей машине.

Вопросы

Сколько видеопамяти нужно d3:27b?
По нашей оценке, около 35 ГБ для инференса (27B параметров). Более высокое разрешение, длинный контекст или большие батчи потребуют больше.
Сколько стоит запуск d3:27b?
От $0.48 в час на Q RTX 8000, с посекундной оплатой. Десять часов обойдутся примерно в $4.80.
Нужна ли подписка?
Нет. Вы платите только за время работы машины из своего баланса в USD. Остановите её, когда закончите.

Попробуйте на своём GPU за несколько минут

Выберите GPU, откройте Jupyter или SSH и запустите любую открытую модель. Вы платите посекундно и можете остановить машину в любой момент; без подписки и платы за подключение.

  • Посекундная оплата в USD
  • PyTorch и CUDA готовы за минуты
  • Арендуйте и через ChatGPT или Claude

Похожие модели: Визуально-языковые модели