corehu
Alquilar una GPU

MODELOS ABIERTOS / Modelos de visión y lenguaje

Ejecuta deepseek-vl2-small en una GPU en la nube

deepseek-vl2-small es un modelo de Modelos de visión y lenguaje de deepseek-ai. Mira cuánta memoria de GPU necesita, en qué GPU cabe hoy y cuánto cuesta ejecutarlo tú mismo, con facturación por segundo.

Parámetros
16B
Memoria de GPU necesaria
≈ 40 GB
Licencia
—
Descargas
5246
Actualizado el 18 dic 2024

GPU en las que cabe hoy

Nuestra estimación es de unos 40 GB para inferencia con pesos BF16, memoria de trabajo incluida. El uso real depende de la resolución, el tamaño de lote y la longitud de contexto. Con cuantización de 4 bits necesita unos 13 GB.

GPUMemoriaPor hora10 horas
Q RTX 800045 GB$0.48$4.80Alquilar
CMP 170HX64 GB$0.62$6.20Alquilar
GB10119 GB$0.71$7.10Alquilar
A100 SXM480 GB$0.72$7.20Alquilar
RTX A600048 GB$0.72$7.20Alquilar

Precios iniciales en vivo de nuestro catálogo. Pagas por segundo mientras la máquina funciona.

Cómo ejecutar deepseek-vl2-small

  1. 01

    Alquila una GPU

    Elige una de las GPU de arriba. La facturación es por segundo; detén la máquina y dejas de pagar.

  2. 02

    Abre una terminal o Jupyter

    Conéctate por SSH o abre Jupyter en tu navegador. PyTorch y CUDA están listos.

  3. 03

    Descarga y ejecuta el modelo

    Ejecuta los comandos de abajo. Los pesos se descargan directamente de Hugging Face a tu máquina.

pip install -U vllm
vllm serve deepseek-ai/deepseek-vl2-small --host 0.0.0.0 --port 8000

¿Por qué ejecutarlo tú mismo?

Ejecuta la comprensión de documentos e imágenes en tu propia GPU: sin cuota por imagen y tus archivos se quedan en tu máquina.

Preguntas

¿Cuánta memoria de GPU necesita deepseek-vl2-small?
Según nuestra estimación, unos 40 GB para inferencia (16B parámetros). Más resolución, contexto más largo o lotes mayores necesitan más.
¿Cuánto cuesta ejecutar deepseek-vl2-small?
Desde $0.48 por hora en Q RTX 8000, con facturación por segundo. Diez horas cuestan unos $4.80.
¿Necesito una suscripción?
No. Solo pagas el tiempo que funciona tu máquina, desde tu saldo en USD. Detenla cuando termines.

Pruébalo en tu propia GPU en minutos

Elige una GPU, abre Jupyter o SSH y ejecuta cualquier modelo abierto. Pagas por segundo y puedes detenerla cuando quieras; sin suscripción ni cuota de alta.

  • Facturación por segundo en USD
  • PyTorch y CUDA listos en minutos
  • Alquila también desde ChatGPT o Claude

Modelos de Modelos de visión y lenguaje similares