跳到主要内容
返回时间线
Hugging Face Blog来源发表:

0.5B语音模型Rumble-2-Flash开源:多语种平均错误率6.96%,电话录音追平30B模型

核心概要

Reson8以Apache 2.0许可开源了0.5B参数的语音识别模型Rumble-2-Flash,支持40多种语言并自动检测语种。它在Open ASR Leaderboard多语种赛道上于中文、德文、法文、意大利文、西班牙文、葡萄牙文、印地文、荷兰文和英文上平均错误率6.96%,低于15倍于其规模的Meta omniASR-LLM 7B,也优于Whisper large-v3;在302小时、14种英语口音的电话客服基准上错误率7.86%,与30B的NVIDIA Nemotron 3.5 Transcribe的7.78%相当。

AI-generated editorial illustration: Rumble-2-Flash: an open 0.5B speech model for 40+ languages

深度剖析

一个0.5B参数的语音识别模型现在以Apache 2.0许可公开权重,覆盖40多种语言并支持自动语种检测,同时提供数字写成阿拉伯数字或英文单词、填充词、逐字重复和强制语种等输出控制。 此前同类多语种识别能力通常由规模大得多的模型承担,Reson8称Rumble-2-Flash与3至60倍于其规模的模型竞争。 在Open ASR Leaderboard多语种赛道上,该模型在中文、德文、法文、意大利文、西班牙文、葡萄牙文、印地文、荷兰文和英文上平均错误率6.96%,低于Meta omniASR-LLM 7B并优于Whisper large-v3;英文赛道平均词错误率6.6%。

模型通过把更大的生产模型Rumble-2蒸馏进0.5B学生模型得到,目的是找出精度明显下降之前模型能缩到多小。 常规的在线蒸馏要求教师与学生共享分词器,而选用Qwen3-ASR架构意味着同时采用它的词表,两边词表并不一致。 GOLD方法把两个分词器切分不同的词元合并,使两个模型在同一段文本上比较:两边词表都有的词元直接比较,其余按排序后的概率比较;学生自己转写音频,教师对每个词元位置给出自己的下一词元概率,学生据此逐词元对齐。

推理速度随批次填充程度变化,在批次保持填满的大数据集上吞吐超过7,000 RTFx,约合一小时音频半秒处理完。 该速度数字对应HF Open ASR Leaderboard中批次保持填满的较大数据集,并非所有负载下的固定吞吐。 在AppTek的302小时呼叫中心基准上,该基准包含14种英语口音并用AppTek自有脚本打分,Rumble-2-Flash错误率7.86%,与NVIDIA Nemotron 3.5 Transcribe(30B)的7.78%相当,优于同族的Qwen3-ASR 0.6B(8.7%),接近Qwen3-ASR 1.7B(7.4%)。

启示与展望

已展示的范围是公开排行榜的多语种与英文赛道,以及AppTek的302小时、14种英语口音呼叫中心基准;模型权重以Apache 2.0发布在Hub上,并可通过Reson8的API调用。作者表示希望听到使用者反馈,以便规划下一版本。

吞吐数字依赖批次填充程度,作者只给出批次保持填满时的7,000 RTFx 以上;电话基准使用AppTek自有打分脚本,且对比中Qwen3-ASR 1.7B的7.4%仍优于该模型。