Fermion Research 发布了轻量级端侧语音识别（ASR，即把人类说话的声音自动转成文字）模型 Phonon-2.5，以及专精英语的 Phonon-2.5 English。

它主要有几个特点：

• 体积小、单文件多语种：模型下载体积为 156 MB（解压到磁盘占用 178 MB），单一文件即可自动识别 25 种语言（主要为欧洲及环地中海语言，不支持中文）；
• 低错误率与小体积折中：在 FLEURS 25 语种基准测试中，平均词错误率（WER）为 11.71%，低于体积接近的 Parakeet Redux（12.18%）以及体积达 16 倍的未压缩基座模型 Parakeet TDT 0.6B v3（13.26%）；
• 跨平台本地离线运行：沿用前代架构与推理引擎，支持 Apple silicon、普通 x86-64 / Arm CPU 以及 NVIDIA GPU，无需联网上传音频；
• 开放权重并允许署名商用：模型权重以 CC-BY-4.0 协议发布，允许商业使用、修改与分发，但必须保留署名条件；命令行工具采用 Apache 2.0 协议。

156 MB 能带来什么

常见的高精度语音识别模型体积往往达到数 GB。例如 OpenAI 的 Whisper large-v3 下载体积约为 3.1 GB，Whisper large-v3-turbo 约为 1.6 GB，Meta 的 MMS-1B-all 也接近 4 GB。而在同处百兆级体量的小模型中，以往往往难以兼顾识别质量：在团队公布的对比图表中，与 Phonon-2.5 体积相近的 Whisper base 平均词错误率高达 53.71%，错误率约为 Phonon-2.5（11.71%）的 4.6 倍。大小相近却效果差距悬殊，说明单纯压低体积并不罕见，难点在于能否在极小体积下仍维持可用的识别表现。

这在实际使用中带来了明显的分工差异。以一个具体任务为例：用户将一段受支持语言的采访录音交给本地运行的引擎，直接转录出带有标点、大小写与逐词时间戳的文本，整个过程完全在本地离线计算，不必将音频上传至云端转写服务。

模型文件先下载到电脑，之后才能离线处理录音：

• 降低分发与存储门槛：156 MB 的下载文件（专精英语版为 158 MB，磁盘占用 178 MB）显著降低了网络下载耗时与存储空间占用，更利于在边缘设备或个人电脑上快速分发；
• 下载体积不等于运行时内存：小文件主要优化的是下载与存储成本。至于引擎启动时的冷启动耗时以及运行期间实际占用的内存大小，则取决于推理引擎的具体实现，不能直接由较小的下载体积推断为低内存占用。

把权重存成五档，加载后再展开计算

Phonon-2.5 衍生自 NVIDIA 的 Parakeet TDT 0.6B v3，将 2,508 MB 的全精度原版模型压缩至 156 MB 的发布文件。作为对比，若对基座模型直接做常规的训练后 4 位量化（体积约 472 MB），在 25 语种上的平均词错误率会恶化至 14.48%。

要理解其如何在大幅压缩体积的同时维持识别能力，需要先了解权重的本质与低比特表示：

• 权重与低比特概念：在神经网络计算中，权重是调节输入声音信号作用强弱的数值。低比特量化就是用更少的二进制位数来保存这些数值。
• 五档离散权重（约 2.1 bit/权重）：Phonon 的编码器将每个权重的值约束为五种离散状态——零（0），或正负两档不同大小的幅值（+a、-a、+b、-b），其中 a 与 b 的幅值是针对每个输出行单独学习得出的。
• 打包编码方式：在紧凑存储时，三进制数（base-3）本身已包含 0 以及正、负符号，每 5 个三进制数值打包进 1 个字节；对于非零权重，再额外用 1 个比特选择落在幅值 a 还是 b 上，整体平均每个权重仅占用约 2.1 个比特，而非外加符号位。

加载与计算流程：下载体积不等于运行内存

推理引擎在处理音频时，经历了从文件加载到硬件计算的完整动作，因而 156 MB 下载文件（磁盘占用 178 MB）并不等于运行内存：

• 引擎仅在启动初始化时读取并解包一次紧凑文件，后续解码计算不再读取打包字节；
• 在搭载 Apple silicon 的 Mac 上，MLX 引擎在加载时将编码器展开为 16 位密集副本并在 GPU 上计算；
• 在 x86-64 与 Arm CPU 上，每行权重在加载时被重新量化为 8 位整数（INT8），借助 CPU 向量指令集在持久线程池中执行点积；
• 在 NVIDIA GPU 上，权重在加载时展开为 16 位张量，配合预构建的 CUDA 图执行批处理。

官方并未公开 2.5 版本具体的训练配方或数据配比，仅说明沿用了前代的格式与引擎；因此不能仅凭部分测试分数超过基座模型，就断定是压缩本身提升了识别能力。

平均更准，101.8% 是怎么算的

在发布信息中，最引人注目的宣传指标是“词准确率达到了 2.5 GB 全精度基座的 101.8%”。理解这一数据需要先厘清词错误率与测试背景。

评估语音识别质量的核心指标通常是词错误率（Word Error Rate, WER），计算方法是把转写结果中漏掉的词、识别错的词和多添的词数相加，除以参考原文的总词数。例如 10% 的 WER，大致相当于每 100 个参考词出现 10 次词级编辑错误，并不等同于必然有 90 个词完全正确。测试所用的 FLEURS 是公开的各语言朗读句子完整测试集，评测使用相同代码和文本归一化标准；但 25 种语言的朗读平均表现，并不代表噪声环境下的真实会议、多语种混说或中文场景。

所谓 101.8%，是由 25 语种平均词错误率换算而来的相对保留比值，而非绝对识别准确率。计算公式为： 相对保留准确率 = (100 - Phonon-2.5 平均 WER) / (100 - 基座模型平均 WER)

全精度基座在 25 语种上的平均 WER 为 13.26%，换算基准词准确率为 86.74%；Phonon-2.5 的平均 WER 降至 11.71%，对应词准确率为 88.29%。两者相除即得 88.29 / 86.74 ≈ 101.8%。这一比值意味着模型整体的平均错误率比全精度基座更低，并不代表绝对准确率超过了 100%。

按公开表格复算，图中顶部的 101.8% 与平均 WER 换算的结果一致；下方条形则展示各语言单独的比值。若将这 25 个单项比值再求平均，结果约为 102.19%，两种算法不能混用。

从公开 FLEURS 25 语种测试集的绝对错误率来看：

• Phonon-2.5 的 25 语种平均 WER 为 11.71%；
• Parakeet TDT 0.6B v3（2.5 GB 全精度基座） 的平均 WER 为 13.26%；
• 在体积仅为基座 6.2%（156 MB vs 2,508 MB）的前提下，平均错误率降低了 1.55 个百分点。

为什么微型模型平均表现反而反超？逐语种对比呈现出明显分化：

1. 常用语言仍是全精度基座更优：在英语（基座 6.53% vs Phonon 6.58%）、西班牙语（4.69% vs 4.80%）、法语（6.61% vs 8.12%）、德语（5.96% vs 6.67%）、意大利语（4.75% vs 5.21%）、荷兰语（7.93% vs 9.21%）以及俄语（7.21% vs 8.67%）上，全精度基座的错误率均更低。
2. 长尾语种显著反超拉高均值：在原版基座表现偏弱的部分语言中，Phonon-2.5 出现明显改善。最突出的是希腊语（36.11% 降至 20.83%）、拉脱维亚语（23.66% 降至 14.92%）与斯洛文尼亚语（24.70% 降至 18.53%），大幅拉动了平均成绩。
3. 其他对比模型的定位：在作者公布的数据中，Canary 1B v2 模型在 25 语种上的平均 WER 达到更低的 9.97%（该模型体积约 3.9 GB）；OpenAI 的 Whisper large-v3 在 25 语种上的平均 WER 录得 12.18%（高于 Phonon-2.5 的 11.71%），但在英语、西班牙语、法语、德语等主流单项上，Whisper 的错误率依然低于 Phonon-2.5。

两次“领先 14 种语言”背后的不同参照

官方材料中两次提到“在 25 种语言中领先 14 种”，容易被误当作同一批语言，实际上对应两个完全不同的参照对象：

• 对比体积接近的 Parakeet Redux：Phonon-2.5 在其中 14 种语言上错误率更低。例如在英语测试中，Phonon-2.5（6.58%）优于 Redux（7.32%），但在全精度基座面前（6.53%）仍然稍逊一筹。
• 对比 16 倍体积的全精度基座 Parakeet TDT 0.6B v3：Phonon-2.5 同样在 14 种语言上表现更好，但这批语言主要集中在基座原先较弱的长尾语种。例如拉脱维亚语中，Phonon-2.5（14.92%）大幅领先基座（23.66%），但对比 Redux（14.76%）反而略高。

交互中可以切换平均成绩与官方图列出的六种语言，核对 Phonon 和 Whisper 的差别；再筛选两批“领先 14 种”的具体名单。模型支持的 25 种语言均不包含中文。

专精英语版本：Phonon-2.5 English 的表现

除多语种模型外，团队还发布了针对纯英语工作流的 Phonon-2.5 English（模型别名 phonon-2.5-en，下载体积 158 MB，磁盘占用 178 MB）。

在开源评测基准 Open ASR Leaderboard 的 7 个英语测试集上（包括 LibriSpeech clean 清晰有声书与 other 复杂有声书、AMI 会议、Earnings-22 财报、GigaSpeech 播客、SPGISpeech 金融听写、VoxPopuli 议会演讲），Phonon-2.5 English 全部 7 项测试均优于前代 Phonon-2，平均词错误率从 5.21% 降至 4.82%。

虽然英文专用版的平均成绩优于多语种版（4.82% vs 5.06%），但在具体测试集上存在分化：在 LibriSpeech 的 clean（1.60% vs 1.64%）和 other（3.41% vs 3.56%）两项上，多语种版本错误率反而更低，在 SPGISpeech 上两者同为 3.31%。

全精度基座的 4.96% 采用的是 Open ASR Leaderboard 的公开数据行；其余模型的数据则是团队按照该榜单公开评测代码计算得出（其中 Earnings-22 采用榜单分块数据集），并非官方同场统一重测。

怎样在自己的电脑上用

桌面应用：Detta

对于希望直接在日常软件中听写、无需配置开发环境的用户，官方提供了免费的 Mac 桌面应用 Detta（仅支持搭载 Apple silicon 的 Mac，需 macOS 26.2 或更高版本）。

在任意应用中按下快捷键说话，松开后文字便会自动录入当前窗口。其内部采用了双模型协作：语音转文字由本地运行的 Phonon 负责；而口误修正、去除语气填充词（如 um）以及重复词清理，则由专门的本地 Gluon 模型完成，这些成文清洗效果并不属于 Phonon 裸模型自带能力。

官网的润色示例很直观：用户先说“back to HTML. I mean XML”，中途把 HTML 改口为 XML，最终写出的文本只保留“back to XML”；原句中的“um”和重复表达也会被清理。这里展示的是 Detta 配合 Gluon 的成文效果。

Detta 官网目前仍标注内置 Phonon-2，作者表示正在分批推送 2.5；安装应用后是否已经用上新版，要以实际收到的更新为准。

如果希望指定模型、批量处理文件或接入自己的软件，可以使用命令行工具，需要 Python 3.10 或更高版本。以下按官方文档列出用法，未做本机转写实测；先用一段自己能核对原话的录音试用。

1. 安装与环境准备

Apple silicon Mac 使用 MLX 引擎。若电脑已安装 Python 3.12，可打开终端，创建独立环境后安装：

python3.12 -m venv .venv && source .venv/bin/activate
pip install "fermion-research[mlx]"

在 CPU 环境运行：

• Linux（x86-64 / Arm64）：可先从纯 CPU 轮子索引安装 PyTorch 避免拉取庞大 CUDA 库，再安装工具：

pip install --no-deps torch --index-url https://download.pytorch.org/whl/cpu
pip install fermion-research

• Windows：直接运行 pip install fermion-research 安装即可。

2. 命令行音频转录

使用命令行转录时，需显式指定 phonon-2.5 模型名称。若直接执行裸 phonon 命令，默认调用的仍是前代 Phonon-2，引擎不会自动切换到新版。将待转录音频（如 recording.wav）放置于当前工作目录下，工具会自动检测音频语言：

# 转录音频文件，标准输出直接输出带标点与大小写的文字结果
fermion transcribe phonon-2.5 recording.wav

# 使用专精英语模型
fermion transcribe phonon-2.5-en call.wav

# 输出包含逐词起止时间戳的 JSON 数据
fermion transcribe phonon-2.5 recording.wav --json

命令行通过 libsndfile 支持 WAV、FLAC、OGG、AIFF 格式，输入时自动重采样为 16 kHz 单声道。对于 MP3 或 M4A 音频，命令行会提示使用 ffmpeg 转换后再输入（这与桌面应用 Detta 直接支持多种音视频格式不同）。

针对长录音的处理，工具并非一次性吞入整小时音频：对于超过 35 秒的音频文件，命令行会自动按停顿切分成约 25 至 35 秒的窗口分别解码，最后拼接各段文本。对于重要长录音，建议对分段交界处的语句连贯性与专有词汇进行抽查核对。

3. 热词偏好（Hotwords）

若需识别特定人名或专有名词，可传入简短热词参数。当声音特征相近时，解码器会优先偏好该词汇，但最终仍取决于实际发音，并不保证绝对正确：

fermion transcribe phonon-2.5 meeting.wav --hotwords "Ada, Quillon"

4. 本地兼容服务与 Docker 镜像

启动本地服务后，已有支持 OpenAI 音频接口的应用只需将接口请求地址（base_url）转向本机（如 http://127.0.0.1:8010/v1）并指定模型名称，即可将转写流量导向本地：

fermion serve phonon-2.5 --port 8010

该服务提供 /v1/audio/transcriptions 接口以及支持 WebSocket 流式转录的 /v1/audio/stream。在 Mac 上还可通过 fermion listen phonon-2.5 进行麦克风实时拾音。

免去 Python 依赖的容器镜像可参考官方仓库：

• CPU 容器镜像：ghcr.io/fermionresearch/phonon-cpu
• NVIDIA GPU 容器镜像：ghcr.io/fermionresearch/phonon-cuda

一小时录音约 20 秒，怎样跑出来的

在运行吞吐速度上，作者在主题帖中公布了 Phonon-2.5 的测试成绩：基础款 M5 MacBook Air 达到 179× 实时速度，8 核 AMD Zen 5 CPU 为 147×，单张 NVIDIA H100 批处理达到 6,672×。官方技术文档则说明新版沿用了前代格式与引擎，性能基本同速，并给出了前代的对照基准：M5 MLX GPU 为 174×、Zen 5 CPU 为 143×、H100 批处理为 6,680×。

Phonon-2.5 沿用了前代的推理引擎。紧凑文件加载后会先展开，运行速度则来自各平台对计算、通信和调度的优化：

• Apple silicon Mac：通过 MLX 引擎将连续解码全程保留在 GPU 上运算，避免每推进一步都与 CPU 来回通信，而是每推进 16 步才同步一次 CPU，大幅减少了芯片内部的往返开销；
• CPU（x86-64 与 Arm）：权重在加载时转为 INT8 格式并借助向量指令集运算，且每层的归一化、激活与残差结果直接写入下一层的 8 位输入缓冲区，通过合并层间操作减少内存反复搬运；
• NVIDIA GPU：将音频按相近时长（1 秒桶）分组合并，在加载时预先构建好静态计算图，一次启动即可推进整个批次 16 步解码，显著减少调度与等待耗时。

这些数字对应的运行条件也要一起看：

• “x 实时”含义与排除项：“x 实时”表示每秒实际耗时所能转录的音频秒数。前代基准包含了将声音转换为模型输入特征的预处理时间（log-mel），但排除了模型加载时间。每个会话首次执行命令时，载入模型通常需要 10 至 40 秒；“20 秒转录 1 小时音频”同样不包含初始加载开销。
• Mac 上的高速度来自 GPU：M5 上的 170×+ 速度依赖 MLX 驱动 Apple silicon 的 GPU 运算；如果切为纯 CPU 模式，官方记录的前代速度对照为 40×。
• 批处理吞吐并非单条延迟：官方技术文档中 H100 的 6,680× 是在 128 批处理规模下测得的前代基准，单音频流基准速度为 465×；本次发布帖公布的 6,672× 仅注明为批处理（batched transcription），并未披露是否沿用相同的 128 批大小，不应直接套用为新版的精确批次设定。

至于官方预告中基于 Core ML 的版本（最高可达 800× 实时速度），目前仍处于后续规划阶段。

总体而言，Phonon-2.5 在极小下载与存储体积下，为受支持语言的本地离线音频转录提供了一个高效的实用选择。由于该模型不支持中文，中文场景仍需配合支持中文的独立识别方案。