corehu
Alugar uma GPU

MODELOS ABERTOS / Modelos de linguagem (LLM)

Execute cogito:32b em uma GPU na nuvem

cogito:32b é um modelo de Modelos de linguagem (LLM) da Ollama. Veja quanta memória de GPU ele precisa, em quais GPUs cabe hoje e quanto custa executá-lo você mesmo, com cobrança por segundo.

Do projeto: Cogito v1 Preview is a family of hybrid reasoning models by Deep Cogito that outperform the best available open models of the same size, including counterparts from LLaMA, DeepSeek, and Qwen across most standard benchmarks.

Alugar RTX 3090 a partir de $0.36/h
Parâmetros
≈ 32B
Memória de GPU necessária
≈ 24 GB
Licença
—
Fonte
Ollama

GPUs em que cabe hoje

Cerca de 24 GB de memória de GPU: o download do modelo (4 bits por padrão) mais a memória de trabalho.

GPUMemóriaPor hora10 horas
RTX 309024 GB$0.36$3.60Alugar
Titan RTX24 GB$0.40$4.00Alugar
A1024 GB$0.43$4.30Alugar
RTX A500024 GB$0.43$4.30Alugar
RTX PRO 400024 GB$0.45$4.50Alugar

Preços iniciais ao vivo do nosso catálogo. Você paga por segundo enquanto a máquina roda.

Como executar cogito:32b

  1. 01

    Alugue uma GPU

    Escolha uma das GPUs acima. A cobrança é por segundo; pare a máquina e a cobrança para.

  2. 02

    Abra um terminal ou o Jupyter

    Conecte-se por SSH ou abra o Jupyter no navegador. PyTorch e CUDA já estão prontos.

  3. 03

    Instale o Ollama e execute o modelo

    Execute os comandos abaixo. O Ollama baixa o modelo e serve uma API compatível com OpenAI na porta 11434.

curl -fsSL https://ollama.com/install.sh | sh
ollama run cogito:32b

Por que executar você mesmo?

Seu próprio servidor de LLM não tem cobrança por token nem limite de requisições, e seus dados ficam privados. Escolha a GPU pela memória e sirva o modelo com vLLM.

Perguntas

Quanta memória de GPU o cogito:32b precisa?
Pela nossa estimativa, cerca de 24 GB para inferência (32B parâmetros). Resolução maior, contexto mais longo ou lotes maiores precisam de mais.
Quanto custa executar o cogito:32b?
A partir de $0.36 por hora em RTX 3090, com cobrança por segundo. Dez horas custam cerca de $3.60.
Preciso de uma assinatura?
Não. Você paga só pelo tempo em que a máquina roda, usando seu saldo em USD. Pare-a quando terminar.

Experimente na sua própria GPU em minutos

Escolha uma GPU, abra o Jupyter ou o SSH e execute qualquer modelo aberto. Você paga por segundo e pode parar quando quiser; sem assinatura nem taxa de ativação.

  • Cobrança por segundo em USD
  • PyTorch e CUDA prontos em minutos
  • Alugue também pelo ChatGPT ou Claude

Modelos de Modelos de linguagem (LLM) semelhantes