KULLANIM ALANI

Bulut GPU'da LoRA ile LLM ince ayarı yap

Llama, Qwen ya da Mistral'a A100 veya RTX 5090 üzerinde LoRA ya da QLoRA ile ince ayar yap; yalnız eğitim süresini öde.

A100 SXM4 makinelerini gör Canlı fiyatlar kontrol ediliyor…

USD bakiyenden saniye başına faturalanır. İşin bitince makineyi durdur ya da sonlandır.

Önerilen GPU

A100 SXM4 · RTX 5090

7B–14B modelde QLoRA 24–32 GB'a sığar. Daha büyük modellerde tam LoRA için 80 GB'lık A100 gerekir.

PyTorch

NVIDIA CUDA + PyTorch geliştirme ortamı. SSH ve Jupyter ile hazır.

1
Makineyi kirala
Kataloğu A100 ve PyTorch şablonu seçili açılmış haliyle aç ve Kirala'ya bas.
A100 SXM4 makinelerini gör
2
Bağlan ve verini yükle
Makinenin sayfasındaki SSH komutuyla bağlan, veri setini scp ile kopyala.
```
$ scp -P <PORT> dataset.jsonl root@<HOST>:/root/
```
3
Kütüphaneleri kur
Hugging Face eğitim kütüphanelerini kur, sonra eğitim betiğini çalıştır.
```
$ pip install -U transformers peft trl datasets accelerate bitsandbytes
python train.py
```
4
Adaptörü indir
Eğitilen adaptörü kendi bilgisayarına kopyala, sonra makineyi sonlandır.
```
$ scp -P <PORT> -r root@<HOST>:/root/output ./adapter
```

İnce ayar ne kadar sürer?

Birkaç bin örnekli 7B modelde QLoRA, A100'de genellikle bir saatten kısa sürer.

Eğitim sırasında bakiyem azalırsa ne olur?

Önce uyarı alırsın. Bakiye biterse makine durdurulur, disk korunur; ara kayıtları sık al.