MODÈLES OUVERTS / Transcription de la parole
Exécuter gigaam-v3-ctc-gguf sur un GPU cloud
gigaam-v3-ctc-gguf est un modèle Transcription de la parole de handy-computer. Découvrez la mémoire GPU nécessaire, les GPU sur lesquels il tient aujourd'hui et le coût pour l'exécuter vous-même, facturé à la seconde.
GPU compatibles aujourd'hui
Notre estimation : environ 2 Go pour l'inférence avec des poids GGUF, mémoire de travail incluse. L'usage réel dépend de la résolution, de la taille de lot et de la longueur de contexte.
| GPU | Mémoire | Par heure | 10 heures | |
|---|---|---|---|---|
| RTX 3060 | 12 GB | $0.15 | $1.50 | Louer |
| GTX 1070 | 8 GB | $0.16 | $1.60 | Louer |
| GTX 1660 S | 6 GB | $0.16 | $1.60 | Louer |
| GTX 1080 | 8 GB | $0.18 | $1.80 | Louer |
| RTX 5060 | 8 GB | $0.18 | $1.80 | Louer |
Prix de départ en direct depuis notre catalogue. Vous payez à la seconde tant que la machine tourne.
Comment exécuter gigaam-v3-ctc-gguf
- 01
Louez un GPU
Choisissez l'un des GPU ci-dessus. Facturation à la seconde ; arrêtez la machine et la facturation s'arrête.
- 02
Ouvrez un terminal ou Jupyter
Connectez-vous en SSH ou ouvrez Jupyter dans votre navigateur. PyTorch et CUDA sont prêts.
- 03
Téléchargez et lancez le modèle
Exécutez les commandes ci-dessous. Les poids sont téléchargés directement depuis Hugging Face sur votre machine.
pip install -U "huggingface_hub[cli]"
huggingface-cli download handy-computer/gigaam-v3-ctc-gguf --local-dir ./model --include "*Q4_K_M*"
# llama.cpp: ./llama-server -m ./model/*.gguf --host 0.0.0.0 --port 8000Pourquoi l'exécuter vous-même ?
Transcrivez des heures d'audio pour le prix des minutes de GPU. Les enregistrements ne quittent jamais votre machine.
Questions
- De combien de mémoire GPU gigaam-v3-ctc-gguf a-t-il besoin ?
- Selon notre estimation, environ 2 Go pour l'inférence (220M paramètres). Une résolution plus élevée, un contexte plus long ou des lots plus grands demandent davantage.
- Combien coûte l'exécution de gigaam-v3-ctc-gguf ?
- À partir de $0.15 de l'heure sur RTX 3060, facturé à la seconde. Dix heures coûtent environ $1.50.
- Faut-il un abonnement ?
- Non. Vous payez uniquement le temps de fonctionnement de votre machine, depuis votre solde en USD. Arrêtez-la quand vous avez terminé.
Essayez-le sur votre propre GPU en quelques minutes
Choisissez un GPU, ouvrez Jupyter ou SSH et exécutez n'importe quel modèle ouvert. Vous payez à la seconde et pouvez arrêter à tout moment ; sans abonnement ni frais d'installation.
- Facturation à la seconde en USD
- PyTorch et CUDA prêts en quelques minutes
- Louez aussi depuis ChatGPT ou Claude