OpenAI / 语音识别
Whisper-tiny
紧凑的多语言语音识别模型，将音频转为文字，适合离线转写与语音交互原型。
任务类型语音识别
模型开发者OpenAI
运行设备 / 平台4 个可选
部署精度FP16
01
模型简介
Whisper Tiny 是 OpenAI Whisper 家族中的紧凑多语言语音识别模型，约 39M 参数。它将音频编码后通过自回归解码生成文字，可用于多语言离线转写与语音交互原型。
这里选用多语言 Tiny，而非仅支持英语的 tiny.en。板卡资源使用配套音频前处理、tokenizer 和解码流程；短片段离线转写与持续实时流式识别是不同应用，后者还需要语音活动检测、切片和结果合并。
多语言转写
支持多语言音频转文本，可指定语言以减少自动检测歧义。
紧凑模型
Tiny 规格便于验证语音链路，复杂噪声下可再评估更大模型。
本地处理
音频可在设备内处理，适用于离线场景。
适用场景
离线音频转写语音交互原型设备语音指令
02
部署配置与性能
| 部署精度 | 部署状态 | 后端 |
|---|---|---|
| IQ-9075 EVKQCS9075 · Dragonwing IQ9 | ||
| 已部署，未实测 | QNN 2.40 | |
| A8625MY1QCS8625 | ||
| 已部署，未实测 | QNN 2.40 | |
| 犀牛派 X1QCS8550 | ||
| 已部署，未实测 | QNN 2.40 | |
| Dragonwing IQ8QCS8275 · Dragonwing IQ8 | ||
| 已部署，未实测 | QNN 2.40 | |
| 犀牛派 A1QCS6490 | ||
| — | 需适配 · Model Farm 尚无本板卡的可加载构建 | — |
IQ-9075 EVKQCS9075
FP16QNN 2.40
已部署，未实测
A8625MY1QCS8625
FP16QNN 2.40
已部署，未实测
犀牛派 X1QCS8550
FP16QNN 2.40
已部署，未实测
Dragonwing IQ8QCS8275
FP16QNN 2.40
已部署，未实测
犀牛派 A1QCS6490
—
需适配 · Model Farm 尚无本板卡的可加载构建
时延为模型单次推理耗时，不含前后处理；所有数字为真机实测。
03
部署指南
以下步骤基于官方部署文档整理，请以资源包内 README 与实际查询结果为准。
开始之前
- 一块与所选 SoC 一致的开发板，以及可用的终端与网络连接。
- 使用与模型包匹配的系统镜像、推理 SDK 和后端版本。
- Model Farm 账号及板卡内置 MMS 工具；首次使用需完成账号登录。
- 1
检查环境并登录
在目标板卡终端中运行。若没有 mms，请先参考下方 MMS 文档完成系统组件准备。
command -v mms mms login - 2
查询可用模型构建
核对查询结果中的模型名称、芯片、精度与后端版本。以实际返回值为准。
mms list 'Whisper-tiny' - 3
获取对应资源包
下方命令跟随当前板卡与精度生成。下载前确认查询结果中存在同一配置。
mms get -m 'Whisper-tiny' -p fp16 -c qcs9075 -b 'qnn2.40' -d ./whisper-tiny - 4
解压并检查资源目录
进入刚才下载的目录，解压 ZIP 并找到包内说明。资源包可能自带一层目录，后续命令应在 README 指定的工作目录执行。
cd ./whisper-tiny for archive in ./*.zip; do [ -f "$archive" ] || continue unzip -n "$archive" done find . -maxdepth 4 -iname "*readme*" - 5
准备输入与运行环境
准备清晰的 16 kHz 单声道 WAV 音频。安装包内要求的 AidVoice SDK，并使用配套 tokenizer 与 log-Mel 特征提取实现。
- 6
运行官方示例
按 AidVoice 与资源包文档运行转写示例，先使用一段短音频并指定语言。长音频按示例的窗口规则切片，保留时间戳并合并相邻片段。
验证与注意事项
- 对照人工转写文本检查中文、数字、专有名词与静音片段。
- 分别记录音频长度和处理耗时；RTF = 处理耗时 / 音频时长，越小越快。
- 静音和噪声可能产生错误文本，产品接入时增加 VAD 与置信度或规则过滤。
数据来源
- superweb Model Farm 支持矩阵核对于 2026-11-03
- APLUX Model Farm · Whisper-tiny ↗核对于 2026-11-15