corehu
Alugar uma GPU

MODELOS ABERTOS / Modelos de linguagem (LLM)

Execute r1-1776:671b em uma GPU na nuvem

r1-1776:671b é um modelo de Modelos de linguagem (LLM) da Ollama. Veja quanta memória de GPU ele precisa, em quais GPUs cabe hoje e quanto custa executá-lo você mesmo, com cobrança por segundo.

Do projeto: A version of the DeepSeek-R1 model that has been post trained to provide unbiased, accurate, and factual information by Perplexity.

Alugar RTX PRO 6000 S a partir de $13.65/h
Parâmetros
≈ 671B
Memória de GPU necessária
≈ 467 GB
Licença
—
Fonte
Ollama

GPUs em que cabe hoje

Cerca de 467 GB de memória de GPU: o download do modelo (4 bits por padrão) mais a memória de trabalho.

GPUMemóriaPor hora10 horas
5× RTX PRO 6000 S480 GB$13.65$136.50Alugar
16× RTX 5090512 GB$14.40$144.00Alugar
8× RTX PRO 6000 WS768 GB$20.56$205.60Alugar
8× A100640 GB$23.60$236.00Alugar
4× H200 NVL560 GB$24.00$240.00Alugar

Preços iniciais ao vivo do nosso catálogo. Você paga por segundo enquanto a máquina roda.

Como executar r1-1776:671b

  1. 01

    Alugue uma GPU

    Escolha uma das GPUs acima. A cobrança é por segundo; pare a máquina e a cobrança para.

  2. 02

    Abra um terminal ou o Jupyter

    Conecte-se por SSH ou abra o Jupyter no navegador. PyTorch e CUDA já estão prontos.

  3. 03

    Instale o Ollama e execute o modelo

    Execute os comandos abaixo. O Ollama baixa o modelo e serve uma API compatível com OpenAI na porta 11434.

curl -fsSL https://ollama.com/install.sh | sh
ollama run r1-1776:671b

Por que executar você mesmo?

Seu próprio servidor de LLM não tem cobrança por token nem limite de requisições, e seus dados ficam privados. Escolha a GPU pela memória e sirva o modelo com vLLM.

Perguntas

Quanta memória de GPU o r1-1776:671b precisa?
Pela nossa estimativa, cerca de 467 GB para inferência (671B parâmetros). Resolução maior, contexto mais longo ou lotes maiores precisam de mais.
Quanto custa executar o r1-1776:671b?
A partir de $13.65 por hora em 5× RTX PRO 6000 S, com cobrança por segundo. Dez horas custam cerca de $136.50.
Preciso de uma assinatura?
Não. Você paga só pelo tempo em que a máquina roda, usando seu saldo em USD. Pare-a quando terminar.

Experimente na sua própria GPU em minutos

Escolha uma GPU, abra o Jupyter ou o SSH e execute qualquer modelo aberto. Você paga por segundo e pode parar quando quiser; sem assinatura nem taxa de ativação.

  • Cobrança por segundo em USD
  • PyTorch e CUDA prontos em minutos
  • Alugue também pelo ChatGPT ou Claude

Modelos de Modelos de linguagem (LLM) semelhantes