Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
给 Pipecat 语音智能体提供两个小型 CPU 模型,一个读取来电者的情绪和讽刺,一个给智能体的回复加上富有表现力的朗读标签。适合语音智能体的开发者。
Pipecat Tone 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub
Pipecat Tone 是给 Pipecat 语音智能体用的一对小型 CPU 模型。语气读取器判断用户这一轮话是什么意思,给出情绪和讽刺检查,并附带校准过的置信度。语气标注器逐句给智能体的纯文本回复加上表达标签,让语音引擎去演绎。
它适合用 Pipecat 构建语音智能体、希望它们能听出语气并更有表现力地回答的开发者。两个模型在 CPU 上都是毫秒级运行。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 语音 AI | Pipecat 开发者 | 给智能体加上语气读取和有表现力的回复 | 用更柔和的声音道歉的智能体 |
| 客户支持 | 客服自动化团队 | 让智能体察觉来电者的愤怒或讽刺 | 发现一句关于久等的讽刺话 |
| 软件 | 语音产品开发者 | 塑造文字转语音的声音如何说出一段回复 | 给订单号标出放慢的片段 |
想要判断或刻画语音智能体所接触的人的那些人不应该使用它,因为卡片明确排除了这种用途。
| Use case | Who | What they get back |
|---|---|---|
| 读取语气 | 语音智能体开发者 | 一个情绪和一个讽刺值,附带置信度数字 |
| 有表现力的回复 | 语音开发者 | 关于朗读方式、放慢片段、重读词和呼吸的标签 |
| 给大模型的上下文 | 智能体开发者 | 一条关于用户怎么说话的说明,放在他们的消息前面 |
pip install -U huggingface_hub
hf download pipecat-ai/tone-models
在流水线设置里打开表达式对话,然后把读取器放在语音转文字之后,把标注器放在大模型之后。模型会在流水线第一次启动时从这个仓库下载。给标注器传入 size 32m 可以改用更大的那个。呼吸需要在表达策略里启用 BREATHE 引导。
from pipecat.processors.tone.reader import PipecatToneReader
from pipecat.processors.tone.tagger import PipecatToneTagger
pipeline = Pipeline([
transport.input(), stt, PipecatToneReader(), user_aggregator,
llm, PipecatToneTagger(), tts, transport.output(), assistant_aggregator,
])| Tool | What it does |
|---|---|
| PipecatToneReader | 读取每一轮用户话语的情绪和讽刺 |
| PipecatToneTagger | 给智能体的回复写出表达标签 |
| size 32m | 选用更大的标注器,得分稍高,运行稍慢 |
来电者说了一句关于久等的讽刺话。读取器把这一轮标为愤怒、讽刺值很高,大模型会在看到文字之前先看到这条说明。大模型用纯文本回答,标注器再给声音加上标签,比如带歉意的语气和一次轻微的呼吸。
语音智能体各部分之间通常只传递文字,所以语气就丢了。这些模型把语气放在同一条文本流里一起传递。第一步可以先给现有的 Pipecat 流水线加上这两个处理器,听听有什么不同。
卡片把这称为实时上下文标准。读取器是基于 MiniLM 的分类器,标注器是带六个头的小型 Ettin 模型。读取器在 Apple M1 Max 上用四个 CPU 线程时,每轮的 p95 耗时是 5.0 毫秒。
给 Pipecat 语音智能体提供两个小型 CPU 模型,一个读取来电者的情绪和讽刺,一个给智能体的回复加上富有表现力的朗读标签。适合语音智能体的开发者。
由 pipecat-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Pipecat Tone 是给 Pipecat 语音智能体用的一对小型 CPU 模型。语气读取器判断用户这一轮话是什么意思,给出情绪和讽刺检查,并附带校准过的置信度。语气标注器逐句给智能体的纯文本回复加上表达标签,让语音引擎去演绎。
适合谁:它适合用 Pipecat 构建语音智能体、希望它们能听出语气并更有表现力地回答的开发者。两个模型在 CPU 上都是毫秒级运行。
Industry | Who uses it | How they use it | Example
语音 AI | Pipecat 开发者 | 给智能体加上语气读取和有表现力的回复 | 用更柔和的声音道歉的智能体
客户支持 | 客服自动化团队 | 让智能体察觉来电者的愤怒或讽刺 | 发现一句关于久等的讽刺话
软件 | 语音产品开发者 | 塑造文字转语音的声音如何说出一段回复 | 给订单号标出放慢的片段
想要判断或刻画语音智能体所接触的人的那些人不应该使用它,因为卡片明确排除了这种用途。
用在哪里:
Use case | Who | What they get back
读取语气 | 语音智能体开发者 | 一个情绪和一个讽刺值,附带置信度数字
有表现力的回复 | 语音开发者 | 关于朗读方式、放慢片段、重读词和呼吸的标签
给大模型的上下文 | 智能体开发者 | 一条关于用户怎么说话的说明,放在他们的消息前面
如何设置:
pip install -U huggingface_hub
hf download pipecat-ai/tone-models
如何使用:在流水线设置里打开表达式对话,然后把读取器放在语音转文字之后,把标注器放在大模型之后。模型会在流水线第一次启动时从这个仓库下载。给标注器传入 size 32m 可以改用更大的那个。呼吸需要在表达策略里启用 BREATHE 引导。
from pipecat.processors.tone.reader import PipecatToneReader
from pipecat.processors.tone.tagger import PipecatToneTagger
pipeline = Pipeline([
transport.input(), stt, PipecatToneReader(), user_aggregator,
llm, PipecatToneTagger(), tts, transport.output(), assistant_aggregator,
])
Tool | What it does
PipecatToneReader | 读取每一轮用户话语的情绪和讽刺
PipecatToneTagger | 给智能体的回复写出表达标签
size 32m | 选用更大的标注器,得分稍高,运行稍慢
示例:来电者说了一句关于久等的讽刺话。读取器把这一轮标为愤怒、讽刺值很高,大模型会在看到文字之前先看到这条说明。大模型用纯文本回答,标注器再给声音加上标签,比如带歉意的语气和一次轻微的呼吸。
新手与专家:语音智能体各部分之间通常只传递文字,所以语气就丢了。这些模型把语气放在同一条文本流里一起传递。第一步可以先给现有的 Pipecat 流水线加上这两个处理器,听听有什么不同。
卡片把这称为实时上下文标准。读取器是基于 MiniLM 的分类器,标注器是带六个头的小型 Ettin 模型。读取器在 Apple M1 Max 上用四个 CPU 线程时,每轮的 p95 耗时是 5.0 毫秒。
用户语音变成文字
读取器加上情绪和讽刺说明
大模型写出纯文本回复
标注器加标签,声音去演绎
注意事项:
Title: 不同大小标注器的综合得分
17M tagger: 0.753 score
32M tagger: 0.767 score
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download pipecat-ai/tone-models
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Pipecat Tone 本页 | 0 | 10 | — | bsd-2-clause | |
| Pipecat backchannel detector共有 pipecat · voice-agents · onnx | 0 | 17 | 961K | bsd-2-clause | |
| Scylla's Band共有 expressive-tts · onnx | 929 | 17 | — | apache-2.0 | |
| turn-1-mini共有 voice-agents · onnx | 2,733 | 6 | — | apache-2.0 | |
| VoxLock共有 voice-agents · onnx | 2,253 | 46 | 27.3M | apache-2.0 | |
| Indic Multilingual Turn Detector共有 voice-agents · onnx | 81 | 3 | 494M | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。