parakeet-ultra-gguf

parakeet-ultra-gguf

离线转写 25 种欧洲语言的录音，使用 Moondream 的 parakeet-ultra 的 GGUF 版本，配合 transcribe.cpp。适合想要带标点、可选的 token 时间戳的本地语音转文字的人。

由 handy-computer 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：parakeet-ultra-gguf 收录了 Moondream 的 parakeet-ultra 语音识别模型的 GGUF 转换版，由 handy-computer 为 transcribe.cpp 程序准备。这个模型把音频转成带标点、有大小写的文字，支持 25 种欧洲语言，还可以给每个 token 附上时间戳。它可以直接替换基础模型 parakeet-tdt-0.6b-v3，大小、语言和接口都相同。

适合谁：适合想在自己电脑上离线转写的人，也适合围绕 transcribe.cpp 构建本地语音工具的开发者。文件采用从基础模型继承来的 CC-BY-4.0 许可证。

Industry | Who uses it | How they use it | Example
媒体 | 播客作者和剪辑师 | 不借助云服务转写访谈和节目 | 把一段访谈录音转成有大小写的文字稿
软件 | 开发者 | 通过 transcribe.cpp 给工具加上本地语音转文字 | 对保存好的音频调用命令行程序
研究 | 语音研究人员 | 把量化版本与全精度版本作比较 | 检查 Q4_K_M 相对 F32 的错误率

如果你需要对正在进行的音频流做实时转写，或者翻译成另一种语言，可以跳过它，因为模型卡把这两点都排除了。

用在哪里：

• transcribe.cpp，在 Windows、macOS 或 Linux 上从源码构建
• 离线，在你自己的机器上，因为模型在本地运行
• 装有 Python 的 Windows、macOS 或 Linux，用 Hugging Face 的步骤下载文件

Use case | Who | What they get back
文件转写 | 有音频的任何人 | 带标点、有大小写的文字
带时间的文字稿 | 剪辑师和开发者 | 需要时给出 token 级时间戳
长录音 | 研究人员 | 在停顿处切开、每段不超过半分钟的文字

如何设置：

• Git、CMake 和 C++ 构建环境，因为 transcribe.cpp 要从源码构建
• Python 和 huggingface_hub 软件包，用来下载 GGUF 文件
• ffmpeg，如果你的音频还不是 16 kHz 单声道 WAV

1. 从 GitHub 页面克隆 transcribe.cpp 仓库。
2. 在那个文件夹里，用下面第一段里的两条命令构建它。
3. 安装 huggingface_hub 软件包，并用第二段里的命令下载 GGUF 文件。
4. 选一个量化文件，例如 Q8_0 那个。

cd transcribe.cpp
cmake -B build && cmake --build build

pip install -U huggingface_hub
hf download handy-computer/parakeet-ultra-gguf

如何使用：你运行 transcribe-cli 程序，带上一个模型文件和一个 16 kHz 单声道 WAV。如果你的音频是其他格式，先用 ffmpeg 转换。

build/bin/transcribe-cli \
  -m parakeet-ultra-Q8_0.gguf \
  input.wav

ffmpeg -i input.mp3 -ar 16000 -ac 1 output.wav

模型卡列出了六种量化，错误率是在 LibriSpeech test-clean 数据集上测得的。

Title: 量化选项
Type | Size | Word error rate
F32 | 2.51 GB | 1.80%
F16 | 1.26 GB | 1.80%
Q8_0 | 740 MB | 1.80%
Q6_K | 611 MB | 1.81%
Q5_K_M | 550 MB | 1.81%
Q4_K_M | 486 MB | 1.82%

示例：你用 ffmpeg 把一段录音转成 16 kHz 单声道 WAV，再用 Q8_0 文件运行 transcribe-cli。你会得到带标点、大小写正常的文字，也就是录音里说的话。

新手与专家：第一件可以试的小事，是构建 transcribe.cpp，并用处在大小范围中间的 Q8_0 文件转写一段短 WAV。这样能走完从音频到文字的整个流程。

在内部，FastConformer 编码器把结果交给 TDT 转换器解码器，一个小巧的语音检测头会标出切分长音频的停顿位置。解码采用贪心方式，不用外部语言模型。模型卡说，它的 C++ F32 构建与参考运行环境的分数一致，每种量化也都很接近。

把音频转成 16 kHz 单声道 WAV
用 GGUF 文件运行 transcribe-cli
语音检测头切分长音频
模型解码每个片段
得到带标点的文字

Title: 25 种语言的 FLEURS 词错误率，单位百分比
parakeet-tdt-0.6b-v3: 11.62 %
parakeet-ultra: 9.55 %

注意事项：

• License: CC-BY-4.0，继承自基础模型，仓库里附有许可证文本和声明文件
• Cost to run: 未提及
• Data it reaches: 你提供的音频文件，以及从 Hugging Face 的下载
• Not for: 实时流式转写或翻译，如模型卡所述
• FLEURS 数据来自原始模型卡，模型卡称原始模型卡为权威来源

Hugging Face 上的数据（2026年11月13日）

• 任务：automatic speech recognition
• 框架：transcribe.cpp
• 参数量：627M
• Weights: about 314 MB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：1,375,499
• 点赞：8
• 许可证：cc-by-4.0
• 语言：en, de, fr, es, it, pt, ru, uk
• 基于：moondream/parakeet-ultra
• 标签：transcribe.cpp, gguf, speech-to-text, parakeet, conformer, multilingual, long-form, automatic-speech-recognition

链接

• 模型：https://huggingface.co/handy-computer/parakeet-ultra-gguf
• 文件：https://huggingface.co/handy-computer/parakeet-ultra-gguf/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download handy-computer/parakeet-ultra-gguf

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。