Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
OpenAI 的更快的 Whisper 模型,用于语音识别和语音翻译,有 809M 参数,解码层只有 4 层。适合开发者和需要转写音频的人。
whisper-large-v3-turbo 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install --upgrade pip pip install --upgrade transformers datasets[audio] accelerate
whisper-large-v3-turbo 是 OpenAI 的语音识别模型。它把说话的音频转成文字,也能把语音翻译成英文。它有 8.09 亿参数。
它是 Whisper large-v3 经过剪枝和微调的版本,解码层从 32 层减到 4 层。卡片说这让它快了很多,质量只有小幅下降。
适合需要把录音变成文字的开发者和团队,也适合想在自己机器上以更快速度得到 Whisper 质量的人。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 媒体 | 记者和编辑 | 转写采访和录音 | 把一个音频文件变成文字 |
| 软件 | 开发者 | 给应用加上语音转文字 | 通过 Transformers 流水线运行 |
| 教育 | 老师和学生 | 给讲座和演讲配字幕 | 得到每句话的时间戳 |
如果你需要最高的准确度,可以跳过它,因为卡片说速度的提升会带来质量的小幅下降。
| Use case | Who | What they get back |
|---|---|---|
| 转写 | 有录音的任何人 | 文字形式的口语内容 |
| 翻译成英文 | 多语言团队 | 来自其他语言语音的英文文字 |
| 时间戳 | 字幕制作者 | 句子或单个词的时间标记 |
pip install --upgrade pip pip install --upgrade transformers datasets[audio] accelerate
创建一条语音识别流水线,再用音频文件的路径去调用它。传入文件列表并设置批大小,它就能一次转写多个。
import torch
device = "cuda:0" if torch.cuda.is_available() else "cpu"
torch_dtype = torch.float16 if torch.cuda.is_available() else torch.float32
model_id = "openai/whisper-large-v3-turbo"
model_id, torch_dtype=torch_dtype, low_cpu_mem_usage=True, use_safetensors=True
)
model.to(device)
processor = AutoProcessor.from_pretrained(model_id)
pipe = pipeline(
"automatic-speech-recognition",
model=model,
tokenizer=processor.tokenizer,
feature_extractor=processor.feature_extractor,
torch_dtype=torch_dtype,
device=device,
)
result = pipe("audio.mp3")
print(result["text"])先在 它的密钥设置 里填上你自己的值。
| Option | What it does |
|---|---|
| pipe("audio.mp3") | 转写一个本地文件 |
| pipe(list, batch_size=2) | 并行转写多个文件 |
| generate_kwargs 里的 language | 当你已经知道语言时告诉模型 |
| task 设为 translate | 把其他语言的语音变成英文文字 |
| return_timestamps=True | 加上句子级时间戳 |
| return_timestamps="word" | 加上词级时间戳 |
你把一段采访录音的路径交给流水线,再打印文字。加上词级时间戳选项,每个词还会有一个时间标记。
如果你刚接触语音识别,先跑文件示例,对照你听到的内容检查文字。然后再试时间戳。
如果你熟悉这个领域,卡片说 Transformers 支持 Whisper 的各种解码策略,包括温度回退和以前面的词元为条件。除非你传入语言,Whisper 会自己预测语言。
OpenAI 的更快的 Whisper 模型,用于语音识别和语音翻译,有 809M 参数,解码层只有 4 层。适合开发者和需要转写音频的人。
由 openai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:whisper-large-v3-turbo 是 OpenAI 的语音识别模型。它把说话的音频转成文字,也能把语音翻译成英文。它有 8.09 亿参数。
它是 Whisper large-v3 经过剪枝和微调的版本,解码层从 32 层减到 4 层。卡片说这让它快了很多,质量只有小幅下降。
适合谁:适合需要把录音变成文字的开发者和团队,也适合想在自己机器上以更快速度得到 Whisper 质量的人。
Industry | Who uses it | How they use it | Example
媒体 | 记者和编辑 | 转写采访和录音 | 把一个音频文件变成文字
软件 | 开发者 | 给应用加上语音转文字 | 通过 Transformers 流水线运行
教育 | 老师和学生 | 给讲座和演讲配字幕 | 得到每句话的时间戳
如果你需要最高的准确度,可以跳过它,因为卡片说速度的提升会带来质量的小幅下降。
用在哪里:
Use case | Who | What they get back
转写 | 有录音的任何人 | 文字形式的口语内容
翻译成英文 | 多语言团队 | 来自其他语言语音的英文文字
时间戳 | 字幕制作者 | 句子或单个词的时间标记
如何设置:
pip install --upgrade pip
pip install --upgrade transformers datasets[audio] accelerate
如何使用:创建一条语音识别流水线,再用音频文件的路径去调用它。传入文件列表并设置批大小,它就能一次转写多个。
import torch
device = "cuda:0" if torch.cuda.is_available() else "cpu"
torch_dtype = torch.float16 if torch.cuda.is_available() else torch.float32
model_id = "openai/whisper-large-v3-turbo"
model_id, torch_dtype=torch_dtype, low_cpu_mem_usage=True, use_safetensors=True
)
model.to(device)
processor = AutoProcessor.from_pretrained(model_id)
pipe = pipeline(
"automatic-speech-recognition",
model=model,
tokenizer=processor.tokenizer,
feature_extractor=processor.feature_extractor,
torch_dtype=torch_dtype,
device=device,
)
result = pipe("audio.mp3")
print(result["text"])
先在 它的密钥设置 里填上你自己的值。
Option | What it does
pipe("audio.mp3") | 转写一个本地文件
pipe(list, batch_size=2) | 并行转写多个文件
generate_kwargs 里的 language | 当你已经知道语言时告诉模型
task 设为 translate | 把其他语言的语音变成英文文字
return_timestamps=True | 加上句子级时间戳
return_timestamps="word" | 加上词级时间戳
Title: 解码层数
Whisper large-v3: 32 层
Whisper large-v3-turbo: 4 层
示例:你把一段采访录音的路径交给流水线,再打印文字。加上词级时间戳选项,每个词还会有一个时间标记。
新手与专家:如果你刚接触语音识别,先跑文件示例,对照你听到的内容检查文字。然后再试时间戳。
如果你熟悉这个领域,卡片说 Transformers 支持 Whisper 的各种解码策略,包括温度回退和以前面的词元为条件。除非你传入语言,Whisper 会自己预测语言。
安装 Transformers 等库
加载模型和处理器
建一条语音识别流水线
传入音频文件并读出文字
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download openai/whisper-large-v3-turbo
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| whisper-large-v3-turbo 本页 | 4,969,987 | 3,524 | 809M | mit | |
| Distil-Whisper distil-large-v3共有 whisper · automatic-speech-recognition · audio | 754,155 | 386 | 756M | mit | |
| whisper-persian-v4共有 whisper · automatic-speech-recognition · transformers | 1,071 | 21 | 1.5B | apache-2.0 | |
| whisper-base-ar-quran共有 whisper · automatic-speech-recognition · transformers | 353,756 | 195 | — | apache-2.0 | |
| whisperkit-coreml共有 whisper · automatic-speech-recognition | 60,717,190 | 266 | — | mit | |
| AADD共有 whisper · audio | 73 | 9 | — | mit |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。