corehu
Alugar uma GPU

MODELOS ABERTOS / Modelos de linguagem (LLM)

Execute phi4-reasoning:14b em uma GPU na nuvem

phi4-reasoning:14b é um modelo de Modelos de linguagem (LLM) da Ollama. Veja quanta memória de GPU ele precisa, em quais GPUs cabe hoje e quanto custa executá-lo você mesmo, com cobrança por segundo.

Do projeto: Phi 4 reasoning and reasoning plus are 14-billion parameter open-weight reasoning models that rival much larger models on complex reasoning tasks.

Alugar RTX A4000 a partir de $0.19/h
Parâmetros
≈ 14B
Memória de GPU necessária
≈ 14 GB
Licença
—
Fonte
Ollama

GPUs em que cabe hoje

Cerca de 14 GB de memória de GPU: o download do modelo (4 bits por padrão) mais a memória de trabalho.

GPUMemóriaPor hora10 horas
RTX A400016 GB$0.19$1.90Alugar
RTX 2080 Ti22 GB$0.20$2.00Alugar
RTX 5060 Ti16 GB$0.20$2.00Alugar
Tesla V10016 GB$0.22$2.20Alugar
Q RTX 500016 GB$0.24$2.40Alugar

Preços iniciais ao vivo do nosso catálogo. Você paga por segundo enquanto a máquina roda.

Como executar phi4-reasoning:14b

  1. 01

    Alugue uma GPU

    Escolha uma das GPUs acima. A cobrança é por segundo; pare a máquina e a cobrança para.

  2. 02

    Abra um terminal ou o Jupyter

    Conecte-se por SSH ou abra o Jupyter no navegador. PyTorch e CUDA já estão prontos.

  3. 03

    Instale o Ollama e execute o modelo

    Execute os comandos abaixo. O Ollama baixa o modelo e serve uma API compatível com OpenAI na porta 11434.

curl -fsSL https://ollama.com/install.sh | sh
ollama run phi4-reasoning:14b

Por que executar você mesmo?

Seu próprio servidor de LLM não tem cobrança por token nem limite de requisições, e seus dados ficam privados. Escolha a GPU pela memória e sirva o modelo com vLLM.

Perguntas

Quanta memória de GPU o phi4-reasoning:14b precisa?
Pela nossa estimativa, cerca de 14 GB para inferência (14B parâmetros). Resolução maior, contexto mais longo ou lotes maiores precisam de mais.
Quanto custa executar o phi4-reasoning:14b?
A partir de $0.19 por hora em RTX A4000, com cobrança por segundo. Dez horas custam cerca de $1.90.
Preciso de uma assinatura?
Não. Você paga só pelo tempo em que a máquina roda, usando seu saldo em USD. Pare-a quando terminar.

Experimente na sua própria GPU em minutos

Escolha uma GPU, abra o Jupyter ou o SSH e execute qualquer modelo aberto. Você paga por segundo e pode parar quando quiser; sem assinatura nem taxa de ativação.

  • Cobrança por segundo em USD
  • PyTorch e CUDA prontos em minutos
  • Alugue também pelo ChatGPT ou Claude

Modelos de Modelos de linguagem (LLM) semelhantes