Hy-SimulMT-30B-A3B-GGUF发布深度解读3秒延迟中英实时同传如何重塑跨语言沟通【免费下载链接】Hy-SimulMT-30B-A3B-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/tencent/Hy-SimulMT-30B-A3B-GGUF2026 年 10 月 26 日腾讯混元正式发布实时同传大模型 Hy-SimulMT支持中英双向实时同声传译与实时音色克隆翻译时延StreamLAAL低至约 3 秒。本仓库 Hy-SimulMT-30B-A3B-GGUF 提供了 Q4_K_M 与 Q8_0 两种 GGUF 量化模型文件让你有机会在本地电脑上跑起这套边听边译的实时同传模型。什么是 Hy-SimulMT边听边译的实时同传大模型 很多人用过翻译工具体验的是先录完、再翻译说完一段等一会儿才拿到译文。而同声传译的要求完全不同——在说话人还在继续时就要及时理解并组织出译文。Hy-SimulMT 就是为这种实时场景设计的中英双向语音到语音翻译持续接收音频流边听边译实时输出译文文字与语音实时音色克隆翻译的同时保留原说话人的音色特点多人对话时能分清谁在说话低延迟流式输出不用等完整句子说完信息到达听众的等待时间大幅缩短。它面向会议、演讲、访谈等实时交流场景。更多模型细节可参考中文说明 README_CN.md 与英文说明 README.md。3 秒延迟如何解读 RealSI 长音频评测结果 ⚡同声传译的核心矛盾是质量与延迟的平衡等更多信息译文更准但听众等得更久更早开口对增量理解能力要求更高。评测中常用两个指标指标含义方向StreamLAAL流式翻译滞后程度秒越低越好GEMBA译文质量评分越高越好从结果看StreamLAAL 约 3 秒是图示参评系统中的最低值GEMBA 得分高于所对比的开源模型并超过 5 个商业 API 中的 4 个在 FLEURS、CoVoST2、ACL6060、RealSI-Sentence 四个短音频基准上Hy-SimulMT 的 RealSI-Sentence 得分84.7 为全场最高。结论很直接低延迟并不必然以明显牺牲翻译质量为代价。与专业同传译员同台对照质量持平速度更快 官方还做了一次人机同场对照实验收集 2026 年 9 月后新出现的 18 段中英音频每段约 6 分钟覆盖软件与 AI、医学、法律、教育等十个领域同时邀请 6 位有多年实战经验的专业译员3 位持 CATTI 一级口译证书、3 位持 CATTI 二级证书翻译同样的内容。结果显示在这组小范围测评中Hy-SimulMT 的翻译质量达到人类同传专家水平而时延往往更低。业内专家也给出了积极评价。广外高翻学院副院长王巍巍表示系统先开口、后修补的听感接近译员的自我修正标志着国产 AI 同传能力迈上新的台阶正从辅助理解走向低风险场景可用沟通。本仓库内容两个 GGUF 量化版本本地部署任选 这个仓库就是 Hy-SimulMT-30B-A3B 的GGUF 量化模型仓库仅译文输出版本核心内容一目了然文件说明适合场景Hy-SimulMT-30B-A3B-Q4_K_M.gguf4-bit 量化文件更小显存有限、优先追求能跑起来Hy-SimulMT-30B-A3B-Q8_0.gguf8-bit 量化精度更接近原始模型显存充足、追求更稳定的翻译质量几点需要注意本仓库是仅输出译文的模型。如果你希望页面上同时显示原文和译文官方还提供了 Interleave原文译文系列版本语音输出与音色克隆需要配置 TTS 服务本仓库只包含翻译模型本体项目采用开源协议发布具体条款见 LICENSE.txt。快速上手3 条体验路径总有一条适合你 路径一直接下载 Hy 翻译 App最简单不想折腾环境直接扫码下载 Hy 翻译 App即可体验中英双向实时同传与音色克隆效果。路径二一键部署推理服务适合有 NVIDIA GPU 的用户官方 SimulInfer 推理服务提供网页界面、音频文件上传和实时 WebSocket 接口新环境下只需一条命令即可完成安装并启动服务bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave看到Ready: http://127.0.0.1:8080/后打开浏览器选择翻译方向上传音频或开启麦克风即可开始同传。路径三llama.cpp 本仓库 GGUF 模型耐心等待GGUF 文件正是为 llama.cpp 这类推理引擎准备的。需要留意Hy-SimulMT 的适配尚未合并进官方 llama.cpp 仓库官方建议等待支持该模型的新版本发布后再使用届时本仓库的 Hy-SimulMT-30B-A3B-Q8_0.gguf 就能直接加载。常见问题解答FAQQ1Q4_K_M 和 Q8_0 到底选哪个显存紧张选 Q4_K_M能跑起来最重要显存够则优先 Q8_0量化损失更小翻译稳定性更好。Q2为什么现在还不能在 llama.cpp 里直接跑模型支持尚未合入官方 llama.cpp预计很快推出。现阶段建议用 vLLM 路线路径二体验完整能力。Q3支持哪些语言目前支持中文与英文之间的双向翻译。Q4AI 同传能完全替代人工译员吗官方给出的定位很务实AI 同传先在低风险场景中提供可用沟通在需要严格责任判断、专业审校或高风险决策的场景专业译员仍然不可或缺。写在最后从听得懂到跟得上再到保留说话人声音特点的语音表达Hy-SimulMT 把实时同传从辅助理解推向可用沟通。而本仓库提供的 GGUF 量化模型则让这套约 3 秒时延的中英实时同传能力离普通用户和开发者的本地环境更近了一步。【免费下载链接】Hy-SimulMT-30B-A3B-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/tencent/Hy-SimulMT-30B-A3B-GGUF创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
