MODÈLES OUVERTS / Génération d'images par IA
Exécuter gemma-3-12b-it-heretic-v2_fp8_e4m3fn sur un GPU cloud
gemma-3-12b-it-heretic-v2_fp8_e4m3fn est un modèle Génération d'images par IA de lynaNSFW. Découvrez la mémoire GPU nécessaire, les GPU sur lesquels il tient aujourd'hui et le coût pour l'exécuter vous-même, facturé à la seconde.
GPU compatibles aujourd'hui
Notre estimation : environ 30 Go pour l'inférence avec des poids BF16, mémoire de travail incluse. L'usage réel dépend de la résolution, de la taille de lot et de la longueur de contexte.
| GPU | Mémoire | Par heure | 10 heures | |
|---|---|---|---|---|
| Q RTX 8000 | 45 GB | $0.54 | $5.40 | Louer |
| CMP 170HX | 64 GB | $0.70 | $7.00 | Louer |
| RTX 5000Ada | 32 GB | $0.78 | $7.80 | Louer |
| A100 SXM4 | 80 GB | $0.81 | $8.10 | Louer |
| RTX A6000 | 48 GB | $0.94 | $9.40 | Louer |
Prix de départ en direct depuis notre catalogue. Vous payez à la seconde tant que la machine tourne.
Comment exécuter gemma-3-12b-it-heretic-v2_fp8_e4m3fn
- 01
Louez un GPU
Choisissez l'un des GPU ci-dessus. Facturation à la seconde ; arrêtez la machine et la facturation s'arrête.
- 02
Ouvrez un terminal ou Jupyter
Connectez-vous en SSH ou ouvrez Jupyter dans votre navigateur. PyTorch et CUDA sont prêts.
- 03
Téléchargez et lancez le modèle
Exécutez les commandes ci-dessous. Les poids sont téléchargés directement depuis Hugging Face sur votre machine.
pip install -U diffusers transformers accelerate
huggingface-cli download lynaNSFW/gemma-3-12b-it-heretic-v2_fp8_e4m3fn --local-dir ./model
python -c "import torch; from diffusers import DiffusionPipeline; p = DiffusionPipeline.from_pretrained('./model', torch_dtype=torch.bfloat16).to('cuda'); print(p)"Pourquoi l'exécuter vous-même ?
Avec votre propre GPU, ni forfait mensuel ni crédit par image. Chargez n'importe quel modèle ou LoRA et générez par lots.
Questions
- De combien de mémoire GPU gemma-3-12b-it-heretic-v2_fp8_e4m3fn a-t-il besoin ?
- Selon notre estimation, environ 30 Go pour l'inférence (12B paramètres). Une résolution plus élevée, un contexte plus long ou des lots plus grands demandent davantage.
- Combien coûte l'exécution de gemma-3-12b-it-heretic-v2_fp8_e4m3fn ?
- À partir de $0.54 de l'heure sur Q RTX 8000, facturé à la seconde. Dix heures coûtent environ $5.40.
- Faut-il un abonnement ?
- Non. Vous payez uniquement le temps de fonctionnement de votre machine, depuis votre solde en USD. Arrêtez-la quand vous avez terminé.
Essayez-le sur votre propre GPU en quelques minutes
Choisissez un GPU, ouvrez Jupyter ou SSH et exécutez n'importe quel modèle ouvert. Vous payez à la seconde et pouvez arrêter à tout moment ; sans abonnement ni frais d'installation.
- Facturation à la seconde en USD
- PyTorch et CUDA prêts en quelques minutes
- Louez aussi depuis ChatGPT ou Claude