corehu
Арендовать GPU

ОТКРЫТЫЕ МОДЕЛИ / Языковые модели (LLM)

Запустите gpt-oss-safeguard:120b на облачном GPU

gpt-oss-safeguard:120b — модель от Ollama для задачи «Языковые модели (LLM)». Узнайте, сколько видеопамяти ей нужно, на какие GPU она помещается сегодня и сколько стоит запустить её самому, с посекундной оплатой.

Из описания проекта: gpt-oss-safeguard-20b and gpt-oss-safeguard-120b are safety reasoning models built-upon gpt-oss

Параметры
≈ 120B
Нужно видеопамяти
≈ 77 GB
Лицензия
—
Источник
Ollama

GPU, на которые она помещается сегодня

Около 77 ГБ видеопамяти: файл модели (по умолчанию 4 бита) плюс рабочая память.

GPUПамятьВ час10 часов
A100 SXM480 GB$1.02$10.20Арендовать
GB10119 GB$1.20$12.00Арендовать
RTX PRO 6000 Max-Q96 GB$1.93$19.30Арендовать
RTX PRO 6000 S96 GB$2.48$24.80Арендовать
RTX PRO 6000 WS96 GB$2.69$26.90Арендовать

Актуальные начальные цены из нашего каталога. Вы платите посекундно, пока машина работает.

Как запустить gpt-oss-safeguard:120b

  1. 01

    Арендуйте GPU

    Выберите один из GPU выше. Оплата посекундная: остановили машину — оплата прекратилась.

  2. 02

    Откройте терминал или Jupyter

    Подключитесь по SSH или откройте Jupyter в браузере. PyTorch и CUDA уже готовы.

  3. 03

    Установите Ollama и запустите модель

    Выполните команды ниже. Ollama скачает модель и поднимет OpenAI-совместимый API на порту 11434.

curl -fsSL https://ollama.com/install.sh | sh
ollama run gpt-oss-safeguard:120b

Зачем запускать самому?

У собственного LLM-сервера нет оплаты за токены и лимитов запросов, а данные остаются приватными. Выберите GPU по памяти и разверните модель через vLLM.

Вопросы

Сколько видеопамяти нужно gpt-oss-safeguard:120b?
По нашей оценке, около 77 ГБ для инференса (120B параметров). Более высокое разрешение, длинный контекст или большие батчи потребуют больше.
Сколько стоит запуск gpt-oss-safeguard:120b?
От $1.02 в час на A100 SXM4, с посекундной оплатой. Десять часов обойдутся примерно в $10.20.
Нужна ли подписка?
Нет. Вы платите только за время работы машины из своего баланса в USD. Остановите её, когда закончите.

Попробуйте на своём GPU за несколько минут

Выберите GPU, откройте Jupyter или SSH и запустите любую открытую модель. Вы платите посекундно и можете остановить машину в любой момент; без подписки и платы за подключение.

  • Посекундная оплата в USD
  • PyTorch и CUDA готовы за минуты
  • Арендуйте и через ChatGPT или Claude

Похожие модели: Языковые модели (LLM)