MODÈLES OUVERTS / Modèles vision-langage
Exécuter Llama-4-Maverick-17B-128E-Instruct-FP8 sur un GPU cloud
Llama-4-Maverick-17B-128E-Instruct-FP8 est un modèle Modèles vision-langage de meta-llama. Découvrez la mémoire GPU nécessaire, les GPU sur lesquels il tient aujourd'hui et le coût pour l'exécuter vous-même, facturé à la seconde.
GPU compatibles aujourd'hui
Notre estimation : environ 483 Go pour l'inférence avec des poids F8_E4M3, mémoire de travail incluse. L'usage réel dépend de la résolution, de la taille de lot et de la longueur de contexte. Avec une quantification 4 bits, environ 291 Go suffisent.
| GPU | Mémoire | Par heure | 10 heures | |
|---|---|---|---|---|
| 8× RTX PRO 6000 Max-Q | 768 GB | $15.44 | $154.40 | Louer |
| 16× RTX 5090 | 512 GB | $16.16 | $161.60 | Louer |
| 8× RTX PRO 6000 S | 768 GB | $22.72 | $227.20 | Louer |
| 8× A100 | 640 GB | $23.60 | $236.00 | Louer |
| 4× H200 | 560 GB | $25.84 | $258.40 | Louer |
Prix de départ en direct depuis notre catalogue. Vous payez à la seconde tant que la machine tourne.
Comment exécuter Llama-4-Maverick-17B-128E-Instruct-FP8
- 01
Louez un GPU
Choisissez l'un des GPU ci-dessus. Facturation à la seconde ; arrêtez la machine et la facturation s'arrête.
- 02
Ouvrez un terminal ou Jupyter
Connectez-vous en SSH ou ouvrez Jupyter dans votre navigateur. PyTorch et CUDA sont prêts.
- 03
Téléchargez et lancez le modèle
Exécutez les commandes ci-dessous. Les poids sont téléchargés directement depuis Hugging Face sur votre machine.
Ce modèle est à accès restreint : acceptez sa licence sur Hugging Face et exécutez huggingface-cli login avant le téléchargement.
pip install -U vllm
vllm serve meta-llama/Llama-4-Maverick-17B-128E-Instruct-FP8 --host 0.0.0.0 --port 8000Pourquoi l'exécuter vous-même ?
Exécutez la compréhension de documents et d'images sur votre propre GPU : aucun frais par image, vos fichiers restent sur votre machine.
Questions
- De combien de mémoire GPU Llama-4-Maverick-17B-128E-Instruct-FP8 a-t-il besoin ?
- Selon notre estimation, environ 483 Go pour l'inférence (402B paramètres). Une résolution plus élevée, un contexte plus long ou des lots plus grands demandent davantage.
- Combien coûte l'exécution de Llama-4-Maverick-17B-128E-Instruct-FP8 ?
- À partir de $15.44 de l'heure sur 8× RTX PRO 6000 Max-Q, facturé à la seconde. Dix heures coûtent environ $154.40.
- Faut-il un abonnement ?
- Non. Vous payez uniquement le temps de fonctionnement de votre machine, depuis votre solde en USD. Arrêtez-la quand vous avez terminé.
Essayez-le sur votre propre GPU en quelques minutes
Choisissez un GPU, ouvrez Jupyter ou SSH et exécutez n'importe quel modèle ouvert. Vous payez à la seconde et pouvez arrêter à tout moment ; sans abonnement ni frais d'installation.
- Facturation à la seconde en USD
- PyTorch et CUDA prêts en quelques minutes
- Louez aussi depuis ChatGPT ou Claude