corehu
Alugar uma GPU

MODELOS ABERTOS / Modelos de linguagem (LLM)

Execute openthinker:32b em uma GPU na nuvem

openthinker:32b é um modelo de Modelos de linguagem (LLM) da Ollama. Veja quanta memória de GPU ele precisa, em quais GPUs cabe hoje e quanto custa executá-lo você mesmo, com cobrança por segundo.

Do projeto: A fully open-source family of reasoning models built using a dataset derived by distilling DeepSeek-R1.

Alugar RTX 3090 a partir de $0.39/h
Parâmetros
≈ 32B
Memória de GPU necessária
≈ 24 GB
Licença
—
Fonte
Ollama

GPUs em que cabe hoje

Cerca de 24 GB de memória de GPU: o download do modelo (4 bits por padrão) mais a memória de trabalho.

GPUMemóriaPor hora10 horas
RTX 309024 GB$0.39$3.90Alugar
Titan RTX24 GB$0.40$4.00Alugar
RTX A500024 GB$0.42$4.20Alugar
A1024 GB$0.43$4.30Alugar
RTX PRO 400024 GB$0.45$4.50Alugar

Preços iniciais ao vivo do nosso catálogo. Você paga por segundo enquanto a máquina roda.

Como executar openthinker:32b

  1. 01

    Alugue uma GPU

    Escolha uma das GPUs acima. A cobrança é por segundo; pare a máquina e a cobrança para.

  2. 02

    Abra um terminal ou o Jupyter

    Conecte-se por SSH ou abra o Jupyter no navegador. PyTorch e CUDA já estão prontos.

  3. 03

    Instale o Ollama e execute o modelo

    Execute os comandos abaixo. O Ollama baixa o modelo e serve uma API compatível com OpenAI na porta 11434.

curl -fsSL https://ollama.com/install.sh | sh
ollama run openthinker:32b

Por que executar você mesmo?

Seu próprio servidor de LLM não tem cobrança por token nem limite de requisições, e seus dados ficam privados. Escolha a GPU pela memória e sirva o modelo com vLLM.

Perguntas

Quanta memória de GPU o openthinker:32b precisa?
Pela nossa estimativa, cerca de 24 GB para inferência (32B parâmetros). Resolução maior, contexto mais longo ou lotes maiores precisam de mais.
Quanto custa executar o openthinker:32b?
A partir de $0.39 por hora em RTX 3090, com cobrança por segundo. Dez horas custam cerca de $3.90.
Preciso de uma assinatura?
Não. Você paga só pelo tempo em que a máquina roda, usando seu saldo em USD. Pare-a quando terminar.

Experimente na sua própria GPU em minutos

Escolha uma GPU, abra o Jupyter ou o SSH e execute qualquer modelo aberto. Você paga por segundo e pode parar quando quiser; sem assinatura nem taxa de ativação.

  • Cobrança por segundo em USD
  • PyTorch e CUDA prontos em minutos
  • Alugue também pelo ChatGPT ou Claude

Modelos de Modelos de linguagem (LLM) semelhantes