corehu
Арендовать GPU

ОТКРЫТЫЕ МОДЕЛИ / Визуально-языковые модели

Запустите muse-glimmer:30b на облачном GPU

muse-glimmer:30b — модель от Ollama для задачи «Визуально-языковые модели». Узнайте, сколько видеопамяти ей нужно, на какие GPU она помещается сегодня и сколько стоит запустить её самому, с посекундной оплатой.

Из описания проекта: Meta's latest open model built for always-on local agents. 30B parameters, licensed under Apache 2.0 and runs on a single GPU — tuned for tool use, long tasks, and failure recovery.

Параметры
≈ 30B
Нужно видеопамяти
≈ 22 GB
Лицензия
—
Источник
Ollama

GPU, на которые она помещается сегодня

Около 22 ГБ видеопамяти: файл модели (по умолчанию 4 бита) плюс рабочая память.

GPUПамятьВ час10 часов
RTX 2080 Ti22 GB$0.23$2.30Арендовать
Tesla P4024 GB$0.27$2.70Арендовать
Titan RTX24 GB$0.29$2.90Арендовать
RTX 309024 GB$0.42$4.20Арендовать
A1024 GB$0.48$4.80Арендовать

Актуальные начальные цены из нашего каталога. Вы платите посекундно, пока машина работает.

Как запустить muse-glimmer:30b

  1. 01

    Арендуйте GPU

    Выберите один из GPU выше. Оплата посекундная: остановили машину — оплата прекратилась.

  2. 02

    Откройте терминал или Jupyter

    Подключитесь по SSH или откройте Jupyter в браузере. PyTorch и CUDA уже готовы.

  3. 03

    Установите Ollama и запустите модель

    Выполните команды ниже. Ollama скачает модель и поднимет OpenAI-совместимый API на порту 11434.

curl -fsSL https://ollama.com/install.sh | sh
ollama run muse-glimmer:30b

Зачем запускать самому?

Анализируйте документы и изображения на своём GPU: без оплаты за изображение, файлы остаются на вашей машине.

Вопросы

Сколько видеопамяти нужно muse-glimmer:30b?
По нашей оценке, около 22 ГБ для инференса (30B параметров). Более высокое разрешение, длинный контекст или большие батчи потребуют больше.
Сколько стоит запуск muse-glimmer:30b?
От $0.23 в час на RTX 2080 Ti, с посекундной оплатой. Десять часов обойдутся примерно в $2.30.
Нужна ли подписка?
Нет. Вы платите только за время работы машины из своего баланса в USD. Остановите её, когда закончите.

Попробуйте на своём GPU за несколько минут

Выберите GPU, откройте Jupyter или SSH и запустите любую открытую модель. Вы платите посекундно и можете остановить машину в любой момент; без подписки и платы за подключение.

  • Посекундная оплата в USD
  • PyTorch и CUDA готовы за минуты
  • Арендуйте и через ChatGPT или Claude

Похожие модели: Визуально-языковые модели