Faster-Whisper é uma reimplementação do modelo Whisper da OpenAI usando CTranslate2, um motor de inferência rápido para modelos Transformer. Ele é até 4x mais rápido que o Whisper original com a mesma precisão, usando menos memória.

Suporta GPU NVIDIA (CUDA 12 + cuDNN 9), CPU com quantização INT8

Requisitos

• Python 3.9 ou superior
• Linux (Ubuntu 20.04+, Debian 11+, Fedora, Arch, etc.)
• GPU NVIDIA com drivers CUDA 12 (opcional)

Instalação Passo a Passo no Linux

1️⃣ Verificar Python

A maioria das distribuições Linux já vem com Python 3. Verifique:

python3 --version
pip3 --version

Se não tiver:

# Ubuntu/Debian
sudo apt update && sudo apt install -y python3 python3-pip python3-venv

# Fedora
sudo dnf install python3 python3-pip

# Arch Linux
sudo pacman -S python python-pip

2️⃣ (Recomendado) Criar Ambiente Virtual

python3 -m venv whisper-env
source whisper-env/bin/activate

3️⃣ Instalar o Faster-Whisper

pip install faster-whisper

4️⃣ Aceleração GPU — NVIDIA CUDA (Opcional)

Opção A — Instalar via pip (recomendado)

pip install nvidia-cublas-cu12 nvidia-cudnn-cu12==9.*

export LD_LIBRARY_PATH=$(python3 -c "import os, nvidia.cublas.lib, nvidia.cudnn.lib; print(os.path.dirname(nvidia.cublas.lib.__file__) + ':' + os.path.dirname(nvidia.cudnn.lib.__file__))")

Adicione ao seu ~/.bashrc:

echo 'export LD_LIBRARY_PATH=$(python3 -c "import os, nvidia.cublas.lib, nvidia.cudnn.lib; print(os.path.dirname(nvidia.cublas.lib.__file__) + ":" + os.path.dirname(nvidia.cudnn.lib.__file__))")' >> ~/.bashrc

Opção B — Docker

docker run --gpus all -it --rm nvidia/cuda:12.3.2-cudnn9-runtime-ubuntu22.04
pip install faster-whisper

5️⃣ Testar a Instalação

Crie um arquivo test_whisper.py:

from faster_whisper import WhisperModel

# CPU mode
model = WhisperModel("tiny", device="cpu", compute_type="int8")

# GPU mode (se tiver NVIDIA)
# model = WhisperModel("tiny", device="cuda", compute_type="float16")

segments, info = model.transcribe("audio.mp3", beam_size=5)

print(f"Idioma detectado: {info.language} (probabilidade: {info.language_probability})")
for segment in segments:
    print(f"[{segment.start:.2f}s -> {segment.end:.2f}s] {segment.text}")

Execute:

python3 test_whisper.py

🧠 Modelos Disponíveis

Dicas para Linux

• Sem GPU? Use device="cpu" com compute_type="int8" — excelente performance
• Com GPU NVIDIA? Use device="cuda" com compute_type="float16" — até 4x mais rápido
• Transcrição em lote: Use BatchedInferencePipeline(model=model).transcribe("audio.mp3", batch_size=16) para áudios longos
• Filtro VAD: Ative com vad_filter=True para ignorar silêncios automaticamente
• Timestamps por palavra: Adicione word_timestamps=True para obter timing de cada palavra

Exemplo com transcrição em lote:

from faster_whisper import WhisperModel, BatchedInferencePipeline

model = WhisperModel("large-v3", device="cuda", compute_type="float16")
batched_model = BatchedInferencePipeline(model=model)
segments, info = batched_model.transcribe("podcast.mp3", batch_size=16)

for segment in segments:
    print(f"[{segment.start:.2f}s -> {segment.end:.2f}s] {segment.text}")

Referências

• Repositório oficial: https://github.com/SYSTRAN/faster-whisper
• Documentação CTranslate2: https://github.com/OpenNMT/CTranslate2/
• Modelos Whisper: https://github.com/openai/whisper

Publicado por SupportDev — Dúvidas? Pergunte aqui mesmo!