corehu
Alquilar una GPU

CASO DE USO

Ejecuta Llama y otros LLM abiertos en una GPU en la nube

Chatea con Llama, Qwen o Mistral, o sírvelos a través de una API con Ollama. La plantilla de Ollama inicia el servidor por ti.

Ver máquinas RTX 4090 Consultando precios en tiempo real…

Se factura por segundo desde tu saldo en USD. Detén o finaliza la máquina cuando termines.

GPU recomendada

RTX 4090 · RTX 5090 · A100 SXM4

Los modelos de 8B–14B caben en una RTX 4090 de 24 GB. Para modelos de 32B–70B, elige una RTX 5090 o una A100 de 80 GB.

Plantilla a elegir

Ollama

Ejecuta LLM con un solo comando; incluye API compatible con OpenAI.

En marcha en cuatro pasos

  1. 1

    Alquila la máquina

    Abre el catálogo con la plantilla de Ollama ya seleccionada, elige una GPU y pulsa Alquilar.

    Ver máquinas RTX 4090
  2. 2

    Conéctate por SSH

    Copia el comando SSH de la página de tu máquina. Añade el reenvío de puerto si quieres llamar a la API desde tu ordenador.

    ssh -p <PORT> root@<HOST> -L 11434:localhost:11434

    El comando SSH está en la página de tu máquina. La parte -L reenvía el puerto para que la aplicación se abra en tu propio navegador.

  3. 3

    Descarga un modelo y chatea

    Ollama ya está en marcha. Descarga un modelo y empieza a chatear.

    ollama run llama3.1:8b
  4. 4

    Usa la API

    Ollama ofrece una API compatible con OpenAI en el puerto 11434.

    curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"llama3.1:8b","messages":[{"role":"user","content":"Hello"}]}'

Preguntas

¿Se usan mis datos para entrenar algo?

No. El modelo se ejecuta en tu máquina alquilada; los prompts y las respuestas se quedan en ella.

¿Puedo usarlo desde mi aplicación?

Sí. Apunta un cliente compatible con OpenAI a http://localhost:11434/v1 a través del túnel SSH.