corehu
Alugar uma GPU

MODELOS ABERTOS / Modelos de visão e linguagem

Execute ministral-3:14b em uma GPU na nuvem

ministral-3:14b é um modelo de Modelos de visão e linguagem da Ollama. Veja quanta memória de GPU ele precisa, em quais GPUs cabe hoje e quanto custa executá-lo você mesmo, com cobrança por segundo.

Do projeto: The Ministral 3 family is designed for edge deployment, capable of running on a wide range of hardware.

Alugar RTX 3060 a partir de $0.18/h
Parâmetros
≈ 14B
Memória de GPU necessária
≈ 12 GB
Licença
—
Fonte
Ollama

GPUs em que cabe hoje

Cerca de 12 GB de memória de GPU: o download do modelo (4 bits por padrão) mais a memória de trabalho.

GPUMemóriaPor hora10 horas
RTX 306012 GB$0.18$1.80Alugar
Titan Xp12 GB$0.18$1.80Alugar
GTX TITAN X12 GB$0.20$2.00Alugar
RTX 206012 GB$0.20$2.00Alugar
Tesla V10016 GB$0.20$2.00Alugar

Preços iniciais ao vivo do nosso catálogo. Você paga por segundo enquanto a máquina roda.

Como executar ministral-3:14b

  1. 01

    Alugue uma GPU

    Escolha uma das GPUs acima. A cobrança é por segundo; pare a máquina e a cobrança para.

  2. 02

    Abra um terminal ou o Jupyter

    Conecte-se por SSH ou abra o Jupyter no navegador. PyTorch e CUDA já estão prontos.

  3. 03

    Instale o Ollama e execute o modelo

    Execute os comandos abaixo. O Ollama baixa o modelo e serve uma API compatível com OpenAI na porta 11434.

curl -fsSL https://ollama.com/install.sh | sh
ollama run ministral-3:14b

Por que executar você mesmo?

Execute a compreensão de documentos e imagens na sua própria GPU: sem taxa por imagem, e os arquivos ficam na sua máquina.

Perguntas

Quanta memória de GPU o ministral-3:14b precisa?
Pela nossa estimativa, cerca de 12 GB para inferência (14B parâmetros). Resolução maior, contexto mais longo ou lotes maiores precisam de mais.
Quanto custa executar o ministral-3:14b?
A partir de $0.18 por hora em RTX 3060, com cobrança por segundo. Dez horas custam cerca de $1.80.
Preciso de uma assinatura?
Não. Você paga só pelo tempo em que a máquina roda, usando seu saldo em USD. Pare-a quando terminar.

Experimente na sua própria GPU em minutos

Escolha uma GPU, abra o Jupyter ou o SSH e execute qualquer modelo aberto. Você paga por segundo e pode parar quando quiser; sem assinatura nem taxa de ativação.

  • Cobrança por segundo em USD
  • PyTorch e CUDA prontos em minutos
  • Alugue também pelo ChatGPT ou Claude

Modelos de Modelos de visão e linguagem semelhantes