OmniVoice GGUF

OmniVoice GGUF

提供 OmniVoice 文字转语音模型的 GGUF 权重，配合 omnivoice.cpp 运行时使用，附带声音设计和声音克隆示例。适合想在本地生成多语言语音的开发者。

由 Serveurperso 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这个仓库提供 OmniVoice 的 GGUF 权重，OmniVoice 是一个文字转语音模型，配合 omnivoice.cpp 使用，后者是原始 k2-fsa 项目的 C++17 和 GGML 移植版。模型卡说它支持 646 种语言，不需要为每个声音单独训练，输出 24 kHz 单声道音频。两个 GGUF 文件需要一起加载。基础文件带有 Qwen3 0.6B 主干，把文字变成词元，分词器文件再把词元变回音频。

适合谁：它适合想让语音输出在自己硬件上运行的开发者，以及测试零样本声音设计和克隆的研究人员。权重是非商业的，所以适合个人、学习和研究用途。

行业 | 谁在用 | 怎么用 | 例子
软件 | 应用开发者 | 通过 omnivoice.cpp 给应用加上设备端语音输出 | 把应用里的文字朗读成 24 kHz 的 wav 文件
媒体 | 业余视频和播客创作者 | 为非商业项目生成旁白 | 为个人视频制作一条配音轨
研究 | 语音研究人员 | 试用零样本声音设计和声音克隆 | 运行模型卡里的两个示例脚本
教育 | 语音技术专业的学生 | 对比同一个模型的不同量化版本 | 加载 Q8_0 和 Q4_K_M 文件并分别听一听

如果你需要商业使用，可以跳过它，因为权重带有非商业条款。

用在哪里：

• 在 CPU、CUDA、ROCm、Metal 或 Vulkan 上运行的 omnivoice.cpp
• 用来编译项目和运行示例脚本的终端
• 装有 Python 的 Windows、macOS 或 Linux，用来从平台下载文件

值 | 目标
CUDA0 | NVIDIA GPU，在 Ada 和 Blackwell 显卡上是最快的路径
Vulkan0 | AMD、Intel 或 NVIDIA 的 GPU
Metal | Apple Silicon GPU
CPU | 兜底选项，自动选择 x86 版本

用例 | 谁用 | 得到什么
声音设计 | 开发者和创作者 | 示例脚本生成的名为 tts.wav 的 wav 文件
声音克隆 | 研究人员 | 示例脚本生成的名为 clone.wav 的 wav 文件
低内存使用 | 显卡较小的人 | Q4_K_M 文件，模型卡把它列为显存占用最低的选项

如何设置：

• Git，用来克隆带子模块的 omnivoice.cpp 项目
• C++ 编译环境，因为 omnivoice.cpp 要从源码编译
• Hugging Face 命令行工具，用来下载两个 GGUF 文件
• 你所选那一对文件的磁盘空间，比如 Q8_0 版本需要 656 MB 和 289 MB

1. 从 GitHub 页面克隆带子模块的 omnivoice.cpp。模型卡给出了克隆命令，其中含有网址，所以请从那里复制。
2. 编译它，这里用的是 CUDA 编译脚本。
3. 建一个 models 文件夹，把基础文件和分词器文件下载进去。
4. 在 examples 文件夹里运行示例脚本。

cd omnivoice.cpp && ./buildcuda.sh

mkdir -p models
huggingface-cli download Serveurperso/OmniVoice-GGUF \
    omnivoice-base-Q8_0.gguf omnivoice-tokenizer-Q8_0.gguf \
    --local-dir models

cd examples
./tts.sh        # voice design   -> tts.wav
./clone.sh      # voice cloning  -> clone.wav

版本 | 基础文件 | 分词器文件 | 用途
F32 | 2.46 GB | 734 MB | 参考、调试和转换
BF16 | 1.23 GB | 373 MB | 忠实于原始模型，精度最高
Q8_0 | 656 MB | 289 MB | 推荐的默认选择
Q4_K_M | 407 MB | 252 MB | 显存占用最低

如何使用：在 examples 文件夹里运行 tts.sh 做声音设计，运行 clone.sh 做声音克隆。设置 GGML_BACKEND 可以强制指定设备，不设置的话，运行时会自动选最合适的那个。

工具 | 作用
tts.sh | 根据文字设计声音并写出 tts.wav
clone.sh | 克隆声音并写出 clone.wav
GGML_BACKEND | 强制使用一个设备，比如 CUDA0、Vulkan0、Metal 或 CPU

示例：你在编译并下载好 Q8_0 文件后，在 examples 文件夹里运行 tts.sh。一个名为 tts.wav 的语音文件就会出现。运行 clone.sh 做克隆，会得到 clone.wav。只克隆你有权使用的声音。

新手与专家：文字转语音就是程序把文字朗读出来。零样本的意思是，它不用事先针对某个声音训练，也能生成这个声音。第一次可以试试模型卡称为默认的 Q8_0 一对文件，然后运行 tts.sh。

从底层看，基础模型的隐藏维度是 1024，所有维度都能被 256 整除，所以在每个版本里都沿用 llama.cpp 标准的 K 量化。分词器文件结合了 HuBERT、DAC 和 RVQ，并不是统一量化的。RVQ 码本、Snake 激活的 alpha 和几个投影层保持 F32，行数无法对齐的卷积核在量化版本里降为 F16。

文字输入
基础 GGUF 把它变成词元
分词器 GGUF 把词元变成音频
输出 24 kHz 单声道 wav 文件

注意事项：

• 上游权重是 CC BY-NC 4.0，上游代码是 Apache 2.0，原因是训练数据有限制。
• 音频编解码器是 Apache 2.0 许可的 Higgs Audio v2，omnivoice.cpp 的工具部分是 MIT。
• 这些 GGUF 文件是非商业权重的转换版本，带有同样的条款。
• License: CC BY-NC 4.0 的权重，不允许商业使用
• Cost to run: 未提到
• Data it reaches: models 文件夹和脚本写出的 wav 文件，来源没有提到任何账号
• Not for: 商业使用，以及克隆你无权使用的声音

Hugging Face 上的数据（2026年11月13日）

• 任务：text to speech
• 框架：gguf
• 参数量：613M
• Weights: about 306 MB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：109,605
• 点赞：91
• 许可证：cc-by-nc-4.0
• 语言：en, fr, de, es, it, pt, zh, ja
• 基于：k2-fsa/OmniVoice
• 标签：gguf, text-to-speech, voice-cloning, voice-design, ggml, omnivoice

链接

• 模型：https://huggingface.co/Serveurperso/OmniVoice-GGUF
• 文件：https://huggingface.co/Serveurperso/OmniVoice-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Serveurperso/OmniVoice-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。