Metodologia

Transparente e reproduzível.

Qualquer pessoa pode rodar este benchmark de novo e obter os mesmos dados de partida. Isto é exatamente o que fazemos.

01

Dados de áudio

  • Rio-platense: OpenSLR SLR61 (es_AR), Google, CC BY-SA 4.0.
  • Colombiano: OpenSLR SLR72 (es_CO), Google, CC BY-SA 4.0.
  • Neutro (LatAm): FLEURS es_419, Google, CC BY 4.0.
  • Português (BR): FLEURS pt_br, Google, CC BY 4.0.
  • Mexicano (STT): Em breve. Ainda não encontramos um dataset aberto baixável sem cadastro.

Seleção determinística: arquivos em ordem alfabética, um áudio por falante, 20 por sotaque.

02

Fala para texto (STT)

  • Cada modelo transcreve cada áudio com idioma forçado (es/pt), beam_size=1 e sem filtro de silêncio (no_speech_threshold=None), igual para todos.
  • Normalização: minúsculas, sem pontuação; acentos mantidos.
  • WER e CER por sotaque com jiwer.
  • Latência p50 = mediana do tempo total por frase em CPU (8 threads, sem GPU).
03

Texto para fala (TTS)

  • Cada voz sintetiza as frases de referência do sotaque.
  • Inteligibilidade: o áudio é transcrito com whisper-large-v3-turbo e comparado ao texto. Mede clareza, não naturalidade.
  • Latência p50 = mediana do tempo até o áudio completo em CPU.
04

Provedores comerciais

  • Aparecem como “Em breve” com preço oficial e fonte.
  • Só publicaremos métricas quando os medirmos com contas próprias, respeitando seus termos.
05

Limitações

  • 20 áudios por sotaque: suficiente para um piloto.
  • Datasets públicos podem ter sido usados no treino de alguns modelos.
  • Latências em CPU local: comparáveis entre si, não com APIs na nuvem.
06

Reproduzir

  • python bench/fetch_data.py
  • python bench/run_bench.py
  • VB_LIGHT=1 python bench/run_bench.py (rodada diária leve)