CASO DE USO
Haz fine-tuning de un LLM con LoRA en una GPU en la nube
Ajusta Llama, Qwen o Mistral con LoRA o QLoRA en una A100 o RTX 5090 y paga solo por el tiempo de entrenamiento.
Se factura por segundo desde tu saldo en USD. Detén o finaliza la máquina cuando termines.
GPU recomendada
A100 SXM4 · RTX 5090
QLoRA en un modelo de 7B–14B cabe en 24–32 GB. LoRA completo en modelos más grandes necesita una A100 de 80 GB.
Plantilla a elegir
PyTorch
Entorno de desarrollo NVIDIA CUDA + PyTorch, listo con SSH y Jupyter.
En marcha en cuatro pasos
- 1
Alquila la máquina
Abre el catálogo con la A100 y la plantilla PyTorch ya seleccionadas y pulsa Alquilar.
Ver máquinas A100 SXM4 - 2
Conéctate y sube tus datos
Conéctate con el comando SSH de la página de tu máquina y copia tu dataset con scp.
scp -P <PORT> dataset.jsonl root@<HOST>:/root/ - 3
Instala las bibliotecas
Instala el stack de entrenamiento de Hugging Face y luego ejecuta tu script de entrenamiento.
pip install -U transformers peft trl datasets accelerate bitsandbytes python train.py - 4
Descarga el adaptador
Copia el adaptador entrenado a tu ordenador y luego finaliza la máquina.
scp -P <PORT> -r root@<HOST>:/root/output ./adapter
Preguntas
¿Cuánto tarda un fine-tuning?
Una ejecución de QLoRA en un modelo de 7B con unos miles de ejemplos suele tardar menos de una hora en una A100.
¿Y si mi saldo baja durante el entrenamiento?
Primero recibes un aviso. Si el saldo se agota, la máquina se detiene y el disco se conserva, así que guarda checkpoints a menudo.