ユースケース
クラウドGPUでLoRAを使ってLLMをファインチューニング
A100またはRTX 5090で、LoRAやQLoRAを使ってLlama、Qwen、Mistralをファインチューニング。支払いは学習時間分だけです。
A100 SXM4 のマシンを見る 最新の価格を確認中…
USD残高から秒単位で課金されます。使い終わったらマシンを停止または終了してください。
おすすめのGPU
A100 SXM4 · RTX 5090
7B–14BモデルのQLoRAは24–32 GBに収まります。より大きなモデルでフルLoRAを行うにはA100 80 GBが必要です。
選ぶテンプレート
PyTorch
NVIDIA CUDA + PyTorch の開発環境。SSH と Jupyter ですぐに使えます。
4ステップで使い始める
- 1
- 2
接続してデータをアップロード
マシンのページのSSHコマンドで接続し、scpでデータセットをコピーします。
scp -P <PORT> dataset.jsonl root@<HOST>:/root/ - 3
ライブラリをインストール
Hugging Faceの学習スタックをインストールし、学習スクリプトを実行します。
pip install -U transformers peft trl datasets accelerate bitsandbytes python train.py - 4
アダプターをダウンロード
学習済みアダプターを手元のコンピューターにコピーしてから、マシンを終了します。
scp -P <PORT> -r root@<HOST>:/root/output ./adapter
よくある質問
ファインチューニングにはどれくらいかかりますか？
数千件のサンプルを使った7BモデルのQLoRAなら、A100で通常1時間以内に終わります。
学習中に残高が少なくなったら？
まず警告が届きます。残高がなくなるとマシンは停止されますがディスクは保持されるので、チェックポイントはこまめに保存してください。