Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
OpenAI 的 Whisper 语音识别模型,转换成 ggml 文件供 whisper.cpp 使用,从 tiny 到 large-v3-turbo 多种尺寸,另有更小的量化版本。
whisper.cpp 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download ggerganov/whisper.cpp
这个仓库放的是 OpenAI 的 Whisper 语音识别模型,已转换成 ggml 格式,whisper.cpp 可以直接加载。它是一组模型文件,从 tiny 到 large-v3-turbo。有几个尺寸还有更小的 q5 和 q8 版本。
任务是自动语音识别,也就是把说话的音频转成文字。
它适合运行 whisper.cpp、需要它读取的模型文件的人。小文件适合配置一般的机器,大文件则用更多磁盘空间换来更大的模型。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 开发者 | 通过 whisper.cpp 给应用加上语音转文字 | 转写一条录下来的语音留言 |
| 媒体 | 剪辑师和播客作者 | 把录音变成文字 | 为一次采访做出粗略的文字稿 |
| 无障碍 | 工具开发者 | 让语音内容有文字形式 | 给一段短视频加字幕 |
| 研究 | 语音研究者 | 在自己的音频上比较模型尺寸 | 对比 tiny 和 small |
如果你用的是托管的转写服务,从不自己运行模型,可以跳过它。
| 用例 | 谁用 | 得到什么 |
|---|---|---|
| 转写音频 | 运行 whisper.cpp 的任何人 | 说话音频的文字 |
| 选小文件 | 配置一般的人 | tiny 尺寸的模型为 31 到 75 MiB |
| 选大文件 | 想要更大模型的人 | large 尺寸的文件最大 2.9 GiB |
先准备好下面这些东西。
pip install -U huggingface_hub hf download ggerganov/whisper.cpp
你按尺寸,以及要不要 q5 或 q8 版本来选一个模型文件,然后交给 whisper.cpp。列表里有 tiny、base、small、medium、large-v1、large-v2、large-v3 和 large-v3-turbo,其中一些还有量化版和 .en 版。
| 工具 | 作用 |
|---|---|
| tiny | 最小的模型,磁盘占用 75 MiB |
| base | 再大一档,磁盘占用 142 MiB |
| small | 磁盘占用 466 MiB |
| medium | 磁盘占用 1.5 GiB |
| large-v3 | v3 文件里最大的,磁盘占用 2.9 GiB |
| large-v3-turbo | 磁盘占用 1.5 GiB,q5_0 为 547 MiB,q8_0 为 834 MiB |
你要在一台小笔记本上配置语音转文字,选了列表里标为 57 MiB 的 base-q5_1。你把这个文件和一段录音交给 whisper.cpp,它就产出文字稿。
先从 base 文件开始。它不大,下载很快,你可以在一段录音上判断质量。只有文字不够好时才升一档。
这些文件是 Whisper 的 ggml 转换版,所以能用于 whisper.cpp,不能用于其他 Whisper 加载器。q5 和 q8 文件是同一模型的更小版本,比如 tiny 是 31 MiB 对 75 MiB。列表里还有一个 small.en-tdrz 文件。
OpenAI 的 Whisper 语音识别模型,转换成 ggml 文件供 whisper.cpp 使用,从 tiny 到 large-v3-turbo 多种尺寸,另有更小的量化版本。
由 ggerganov 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:这个仓库放的是 OpenAI 的 Whisper 语音识别模型,已转换成 ggml 格式,whisper.cpp 可以直接加载。它是一组模型文件,从 tiny 到 large-v3-turbo。有几个尺寸还有更小的 q5 和 q8 版本。
任务是自动语音识别,也就是把说话的音频转成文字。
适合谁:它适合运行 whisper.cpp、需要它读取的模型文件的人。小文件适合配置一般的机器,大文件则用更多磁盘空间换来更大的模型。
行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 通过 whisper.cpp 给应用加上语音转文字 | 转写一条录下来的语音留言
媒体 | 剪辑师和播客作者 | 把录音变成文字 | 为一次采访做出粗略的文字稿
无障碍 | 工具开发者 | 让语音内容有文字形式 | 给一段短视频加字幕
研究 | 语音研究者 | 在自己的音频上比较模型尺寸 | 对比 tiny 和 small
如果你用的是托管的转写服务,从不自己运行模型,可以跳过它。
用在哪里:
用例 | 谁用 | 得到什么
转写音频 | 运行 whisper.cpp 的任何人 | 说话音频的文字
选小文件 | 配置一般的人 | tiny 尺寸的模型为 31 到 75 MiB
选大文件 | 想要更大模型的人 | large 尺寸的文件最大 2.9 GiB
如何设置:先准备好下面这些东西。
pip install -U huggingface_hub
hf download ggerganov/whisper.cpp
如何使用:你按尺寸,以及要不要 q5 或 q8 版本来选一个模型文件,然后交给 whisper.cpp。列表里有 tiny、base、small、medium、large-v1、large-v2、large-v3 和 large-v3-turbo,其中一些还有量化版和 .en 版。
工具 | 作用
tiny | 最小的模型,磁盘占用 75 MiB
base | 再大一档,磁盘占用 142 MiB
small | 磁盘占用 466 MiB
medium | 磁盘占用 1.5 GiB
large-v3 | v3 文件里最大的,磁盘占用 2.9 GiB
large-v3-turbo | 磁盘占用 1.5 GiB,q5_0 为 547 MiB,q8_0 为 834 MiB
示例:你要在一台小笔记本上配置语音转文字,选了列表里标为 57 MiB 的 base-q5_1。你把这个文件和一段录音交给 whisper.cpp,它就产出文字稿。
新手与专家:先从 base 文件开始。它不大,下载很快,你可以在一段录音上判断质量。只有文字不够好时才升一档。
这些文件是 Whisper 的 ggml 转换版,所以能用于 whisper.cpp,不能用于其他 Whisper 加载器。q5 和 q8 文件是同一模型的更小版本,比如 tiny 是 31 MiB 对 75 MiB。列表里还有一个 small.en-tdrz 文件。
Title: 列表中部分文件的磁盘大小
tiny: 75 MiB
tiny-q5_1: 31 MiB
base: 142 MiB
small: 466 MiB
large-v3-turbo-q5_0: 547 MiB
large-v3-turbo-q8_0: 834 MiB
用 hf 下载仓库
按尺寸选一个模型文件
把文件交给 whisper.cpp
得到文字形式的转写稿
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download ggerganov/whisper.cpp
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 4 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| whisper.cpp 本页 | 0 | 1,697 | — | mit | |
| whisperkit-coreml共有 automatic-speech-recognition | 60,717,190 | 266 | — | mit | |
| faster-whisper-small共有 automatic-speech-recognition | 5,890,728 | 95 | — | mit | |
| whisper-large-v3-turbo共有 automatic-speech-recognition | 4,969,987 | 3,524 | 809M | mit | |
| Wav2Vec2-Base-960h共有 automatic-speech-recognition | 1,794,378 | 418 | 94.4M | apache-2.0 | |
| Distil-Whisper distil-large-v3共有 automatic-speech-recognition | 754,155 | 386 | 756M | mit |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。