CASO DE USO

Faça fine-tuning de um LLM com LoRA em uma GPU na nuvem

Faça fine-tuning de Llama, Qwen ou Mistral com LoRA ou QLoRA em uma A100 ou RTX 5090 e pague só pelo tempo de treino.

Ver máquinas A100 SXM4 Verificação de preços em tempo real…

Cobrança por segundo a partir do seu saldo em USD. Pare ou finalize a máquina quando terminar.

GPU recomendada

A100 SXM4 · RTX 5090

QLoRA em um modelo de 7B–14B cabe em 24–32 GB. LoRA completo em modelos maiores precisa de uma A100 80 GB.

PyTorch

Ambiente de desenvolvimento NVIDIA CUDA + PyTorch, pronto com SSH e Jupyter.

1
Alugue a máquina
Abra o catálogo com a A100 e o template PyTorch já selecionados e clique em Alugar.
Ver máquinas A100 SXM4
2
Conecte-se e envie os seus dados
Conecte-se com o comando SSH da página da sua máquina e copie o seu dataset com scp.
```
$ scp -P <PORT> dataset.jsonl root@<HOST>:/root/
```
3
Instale as bibliotecas
Instale a stack de treino do Hugging Face e depois execute o seu script de treino.
```
$ pip install -U transformers peft trl datasets accelerate bitsandbytes
python train.py
```
4
Faça o download do adaptador
Copie o adaptador treinado de volta para o seu computador e depois finalize a máquina.
```
$ scp -P <PORT> -r root@<HOST>:/root/output ./adapter
```

Quanto tempo leva um fine-tuning?

Uma execução de QLoRA em um modelo de 7B com alguns milhares de exemplos costuma levar menos de uma hora em uma A100.

E se o meu saldo ficar baixo durante o treino?

Você recebe um aviso primeiro. Se o saldo acabar, a máquina é parada e o disco é mantido, por isso guarde checkpoints com frequência.