corehu
Alugar uma GPU

MODELOS ABERTOS / Fala para texto

Execute whisper-tiny em uma GPU na nuvem

whisper-tiny é um modelo de Fala para texto da FL33TW00D-HF. Veja quanta memória de GPU ele precisa, em quais GPUs cabe hoje e quanto custa executá-lo você mesmo, com cobrança por segundo.

Alugar GTX 1660 S a partir de $0.11/h
Parâmetros
40M
Memória de GPU necessária
≈ 2 GB
Licença
apache-2.0
Downloads
5.000
Atualizado em 17 de jun. de 2024

GPUs em que cabe hoje

Nossa estimativa é de cerca de 2 GB para inferência com pesos GGUF, incluindo a memória de trabalho. O uso real depende da resolução, do tamanho do lote e do comprimento do contexto.

GPUMemóriaPor hora10 horas
GTX 1660 S6 GB$0.11$1.10Alugar
GTX 16504 GB$0.13$1.30Alugar
GTX 10708 GB$0.14$1.40Alugar
GTX 16606 GB$0.14$1.40Alugar
RTX A20006 GB$0.15$1.50Alugar

Preços iniciais ao vivo do nosso catálogo. Você paga por segundo enquanto a máquina roda.

Como executar whisper-tiny

  1. 01

    Alugue uma GPU

    Escolha uma das GPUs acima. A cobrança é por segundo; pare a máquina e a cobrança para.

  2. 02

    Abra um terminal ou o Jupyter

    Conecte-se por SSH ou abra o Jupyter no navegador. PyTorch e CUDA já estão prontos.

  3. 03

    Baixe e execute o modelo

    Execute os comandos abaixo. Os pesos são baixados direto do Hugging Face para a sua máquina.

pip install -U "huggingface_hub[cli]"
huggingface-cli download FL33TW00D-HF/whisper-tiny --local-dir ./model --include "*Q4_K_M*"
# llama.cpp: ./llama-server -m ./model/*.gguf --host 0.0.0.0 --port 8000

Por que executar você mesmo?

Transcreva horas de áudio pelo custo dos minutos de GPU. As gravações nunca saem da sua máquina.

Perguntas

Quanta memória de GPU o whisper-tiny precisa?
Pela nossa estimativa, cerca de 2 GB para inferência (40M parâmetros). Resolução maior, contexto mais longo ou lotes maiores precisam de mais.
Quanto custa executar o whisper-tiny?
A partir de $0.11 por hora em GTX 1660 S, com cobrança por segundo. Dez horas custam cerca de $1.10.
Preciso de uma assinatura?
Não. Você paga só pelo tempo em que a máquina roda, usando seu saldo em USD. Pare-a quando terminar.

Experimente na sua própria GPU em minutos

Escolha uma GPU, abra o Jupyter ou o SSH e execute qualquer modelo aberto. Você paga por segundo e pode parar quando quiser; sem assinatura nem taxa de ativação.

  • Cobrança por segundo em USD
  • PyTorch e CUDA prontos em minutos
  • Alugue também pelo ChatGPT ou Claude

Modelos de Fala para texto semelhantes