corehu
Alugar uma GPU

MODELOS ABERTOS / Modelos de linguagem (LLM)

Execute nemotron-3-super:120b em uma GPU na nuvem

nemotron-3-super:120b é um modelo de Modelos de linguagem (LLM) da Ollama. Veja quanta memória de GPU ele precisa, em quais GPUs cabe hoje e quanto custa executá-lo você mesmo, com cobrança por segundo.

Do projeto: NVIDIA Nemotron 3 Super is a 120B open MoE model activating just 12B parameters to deliver maximum compute efficiency and accuracy for complex multi-agent applications.

Alugar GB10 a partir de $1.19/h
Parâmetros
≈ 120B
Memória de GPU necessária
≈ 101 GB
Licença
—
Fonte
Ollama

GPUs em que cabe hoje

Cerca de 101 GB de memória de GPU: o download do modelo (4 bits por padrão) mais a memória de trabalho.

GPUMemóriaPor hora10 horas
GB10119 GB$1.19$11.90Alugar
H200140 GB$6.46$64.60Alugar
H200 NVL141 GB$6.57$65.70Alugar
B200179 GB$14.09$140.90Alugar
GB200185 GB$16.04$160.40Alugar

Preços iniciais ao vivo do nosso catálogo. Você paga por segundo enquanto a máquina roda.

Como executar nemotron-3-super:120b

  1. 01

    Alugue uma GPU

    Escolha uma das GPUs acima. A cobrança é por segundo; pare a máquina e a cobrança para.

  2. 02

    Abra um terminal ou o Jupyter

    Conecte-se por SSH ou abra o Jupyter no navegador. PyTorch e CUDA já estão prontos.

  3. 03

    Instale o Ollama e execute o modelo

    Execute os comandos abaixo. O Ollama baixa o modelo e serve uma API compatível com OpenAI na porta 11434.

curl -fsSL https://ollama.com/install.sh | sh
ollama run nemotron-3-super:120b

Por que executar você mesmo?

Seu próprio servidor de LLM não tem cobrança por token nem limite de requisições, e seus dados ficam privados. Escolha a GPU pela memória e sirva o modelo com vLLM.

Perguntas

Quanta memória de GPU o nemotron-3-super:120b precisa?
Pela nossa estimativa, cerca de 101 GB para inferência (120B parâmetros). Resolução maior, contexto mais longo ou lotes maiores precisam de mais.
Quanto custa executar o nemotron-3-super:120b?
A partir de $1.19 por hora em GB10, com cobrança por segundo. Dez horas custam cerca de $11.90.
Preciso de uma assinatura?
Não. Você paga só pelo tempo em que a máquina roda, usando seu saldo em USD. Pare-a quando terminar.

Experimente na sua própria GPU em minutos

Escolha uma GPU, abra o Jupyter ou o SSH e execute qualquer modelo aberto. Você paga por segundo e pode parar quando quiser; sem assinatura nem taxa de ativação.

  • Cobrança por segundo em USD
  • PyTorch e CUDA prontos em minutos
  • Alugue também pelo ChatGPT ou Claude

Modelos de Modelos de linguagem (LLM) semelhantes