Metodologia
Transparente e reproduzível.
Qualquer pessoa pode rodar este benchmark de novo e obter os mesmos dados de partida. Isto é exatamente o que fazemos.
01
Dados de áudio
- Rio-platense: OpenSLR SLR61 (es_AR), Google, CC BY-SA 4.0.
- Colombiano: OpenSLR SLR72 (es_CO), Google, CC BY-SA 4.0.
- Neutro (LatAm): FLEURS es_419, Google, CC BY 4.0.
- Português (BR): FLEURS pt_br, Google, CC BY 4.0.
- Mexicano (STT): Em breve. Ainda não encontramos um dataset aberto baixável sem cadastro.
Seleção determinística: arquivos em ordem alfabética, um áudio por falante, 20 por sotaque.
02
Fala para texto (STT)
- Cada modelo transcreve cada áudio com idioma forçado (es/pt), beam_size=1 e sem filtro de silêncio (no_speech_threshold=None), igual para todos.
- Normalização: minúsculas, sem pontuação; acentos mantidos.
- WER e CER por sotaque com jiwer.
- Latência p50 = mediana do tempo total por frase em CPU (8 threads, sem GPU).
03
Texto para fala (TTS)
- Cada voz sintetiza as frases de referência do sotaque.
- Inteligibilidade: o áudio é transcrito com whisper-large-v3-turbo e comparado ao texto. Mede clareza, não naturalidade.
- Latência p50 = mediana do tempo até o áudio completo em CPU.
04
Provedores comerciais
- Aparecem como “Em breve” com preço oficial e fonte.
- Só publicaremos métricas quando os medirmos com contas próprias, respeitando seus termos.
05
Limitações
- 20 áudios por sotaque: suficiente para um piloto.
- Datasets públicos podem ter sido usados no treino de alguns modelos.
- Latências em CPU local: comparáveis entre si, não com APIs na nuvem.
06
Reproduzir
- python bench/fetch_data.py
- python bench/run_bench.py
- VB_LIGHT=1 python bench/run_bench.py (rodada diária leve)