Faster-Whisper 语音转录指南比原版 Whisper 快 4 倍的 CTranslate2 实现【免费下载链接】faster-whisperFaster Whisper transcription with CTranslate2项目地址: https://gitcode.com/GitHub_Trending/fa/faster-whisperFaster-Whisper 用 CTranslate2 重写了 OpenAI Whisper 的推理引擎专治语音转录太慢、内存吃不消。准确率不变速度最高快 4 倍。一句话卖点同样精度的转录它最多比原版快 4 倍还支持 INT8 量化把 CPU 和 GPU 上的内存再压一半。另外它不要求系统装 FFmpeg——音频解码交给依赖里的 PyAV 直接搞定省掉一类最常见的部署坑。30 秒装好并跑通第一条音频 要求 Python 3.9一条命令装完pip install faster-whisperCPU 用户到此就能跑。想用 GPU 加速的话额外需要 NVIDIA 的 cuBLASCUDA 12和 cuDNN 9 两个库Linux 上可以直接用 pip 装对应包并设置LD_LIBRARY_PATH。装好后下面这段代码就是完整的第一次转录from faster_whisper import WhisperModel model WhisperModel(large-v3, devicecuda, compute_typefloat16) segments, info model.transcribe(audio.mp3, beam_size5) print(f语言 {info.language}概率 {info.language_probability}) for segment in segments: print(f[{segment.start:.2f}s - {segment.end:.2f}s] {segment.text})这段在做什么指定模型、设备和精度建好模型transcribe返回语言检测结果和逐段文本。注意segments是生成器真正开始转录发生在遍历它的时候想让它立即跑完包一层list(segments)即可。快 4 倍是怎么做到的CTranslate2 是专门给 Transformer 模型做推理的引擎faster-whisper 在它之上还支持 FP16 和 INT8 两种量化。13 分钟音频、large-v2 模型、NVIDIA RTX 3070 Ti 上的实测原版 WhisperFP16要 2 分 23 秒faster-whisper 同精度下 1 分 03 秒换 INT8 后 59 秒搞定显存从 4.7 GB 降到约 2.9 GB。如果显存够、再开batch_size816 秒就能出结果。CPU 侧差距同样明显i7-12700K 上跑 small 模型原版 FP32 要 6 分 58 秒faster-whisper INT8 只要 1 分 42 秒、内存 1477 MB开批量推理还能压到 51 秒。顺手就有的三个能力词级时间戳word_timestampsTrue一个参数每个词都带起止时间做字幕、对齐时非常省心。VAD 静音过滤内置 Silero VADvad_filterTrue就自动跳过无语音的片段。默认比较保守只去掉超过 2 秒的静音想更激进可以用vad_parameters调min_silence_duration_ms。批量推理BatchedInferencePipeline是WhisperModel.transcribe的直接替代品VAD 在批量模式下默认开启GPU 上提速最猛的就是它。模型方面标准 Whisper 全家桶tiny 到 large-v3直接按名字加载即可Distil-Whisper 蒸馏模型如 distil-large-v3也原生兼容。再练一段时间戳 VADsegments, _ model.transcribe(audio.mp3, word_timestampsTrue, vad_filterTrue) for segment in segments: for word in segment.words: print(f[{word.start:.2f}s - {word.end:.2f}s] {word.word})这段在做什么在第一次运行的模型上多加两个参数就能拿到每个词的精确起止时间同时自动略过静音段。更细的参数语言、提示词、条件上下文等都收敛在 核心转录逻辑 的WhisperModel里需要时查一下即可。生态与延伸WhisperX基于它做说话人分离配合 wav2vec2 给出更准的词级对齐。speachesOpenAI 兼容的转录服务端Docker 一键部署支持流式和实时。whisper-ctranslate2命令行客户端习惯终端跑批量的可以选它。自己微调的模型用ct2-transformers-converter把 Transformers 格式的模型原版或你微调过的转成 CTranslate2 权重之后WhisperModel(本地目录)直接加载。适合谁批量处理大量音频、部署实时转录、或者显存吃紧的场景换它基本没有理由拒绝偶尔转几条短音频原版 Whisper 倒也够用。【免费下载链接】faster-whisperFaster Whisper transcription with CTranslate2项目地址: https://gitcode.com/GitHub_Trending/fa/faster-whisper创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
