Backchannel Cue 32M

Backchannel Cue 32M

根据到目前为止的文字，判断语音助手何时该在用户还在说话时插入一个小的倾听声，比如 mhm 或 oh no。只处理文本，在 CPU 上约 5 毫秒就能给出结果。

由 KoljaB 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这个模型让语音助手学会边听边出声。人在听别人说话时会低声发出 mhm 或 oh no 这样的小信号，而一直沉默等待的助手会显得冷冰冰。你把用户在停顿处到目前为止说的话传进去，模型就告诉你听者会不会有反应，以及怎样反应。它在 CPU 上运行，所以你可以在每次停顿时调用它，不需要大模型。

适合谁：它适合开发语音助手、希望助手在用户说话期间显得专注的开发者。

行业 | 谁在用 | 怎么用 | 例子
语音助手 | 开发语音助手的开发者 | 在每个停顿处检查有没有合适的倾听信号 | 用户提到家长生病时，回应一个表示同情的信号
电话和呼叫机器人 | 构建语音机器人的团队 | 在来电者说话时保持他们的参与感 | 在一个长分句之后说 mhm
对话研究 | 研究话轮转换的研究者 | 研究人们何时回应以及用哪些词 | 阅读门控 AUC 结果和训练说明

如果你的产品没有语音，或者你需要的是回复而不是小信号，可以略过它。

用在哪里：

• 使用 onnxruntime 的 Python 项目
• 能产生实时转写文本的语音流水线
• 没有 GPU 的机器，因为它在 CPU 上运行
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

用途 | 谁用 | 能得到什么
倾听信号 | 语音应用开发者 | 一个信号概率、合适的反应和可能的措辞
情绪检查 | 在意语气的团队 | 一个 neutral、bad、good 或 funny 的情绪标签
反问提示 | 助手开发者 | 一个适合句子说到一半的回声提问

如何设置：
你需要先准备：

• 装有 onnxruntime、tokenizers、numpy 和 huggingface_hub 的 Python
• 约 129 MB 的空间来放 ONNX 模型
• 来自你的语音识别器的实时转写文本

1. 下载仓库，里面有 example.py。
2. 安装 Python 包。
3. 运行 example.py，看一个可以直接复制的完整策略。

pip install -U huggingface_hub
hf download KoljaB/backchannel-cue-32m

pip install onnxruntime tokenizers numpy huggingface_hub
python example.py

如何使用：
在停顿开始约 0.45 秒时，用当前话轮的转写文本调用 example.py 里的 decide 函数。它返回要说的文字，或者在保持安静更合适时什么也不返回。如果可以，请用预先渲染好的音频播放这段文字，因为现场生成的语音往往来得太晚。

from example import decide

decide("my dad got really sick last week")   # e.g. "Oh no."
decide("i wanted to tell you about")         # "About what?"
decide("what time is it")                    # usually None: stay quiet

工具 | 作用
decide | 把当前话轮的文字变成一个信号，或者变成沉默
example.py | 一个可以直接复制的完整策略，包含下面的规则
clean | 把文字整理成没有标点的小写单词
config.json | 存放所有标签，以及每种反应对应哪些措辞

示例：你传入一句关于家长生病的话。模型返回一个类似 oh no 的同情信号。对于一个只问时间的普通问题，它通常什么也不返回，所以助手保持安静。

新手与专家：第一次尝试可以运行 example.py，给它几句话，有悲伤的也有中性的。看看哪些会得到信号，哪些保持沉默。

对懂行的人来说，这个模型建立在 ettin-encoder-32m 编码器之上，返回一个门控概率、每种反应类型的分数、一个情绪、61 个措辞类别和一个回声分数。模型卡里的规则和分数同样重要。它们在句子中间设置更低的信号门槛，在情绪偏坏时压住笑声和夸奖，并让信号之间至少隔 6 秒。只发送当前话轮，取最新的 30 个词。

你发送当前话轮的文字
模型给门控、反应、情绪和措辞打分
你的规则决定是否开口
你播放预先渲染好的信号，或者保持安静

注意事项：

Title: 单个 CPU 线程上每次调用的耗时
短文本: 5 ms
40 个词: 12 ms

Title: 报告的检查结果
检查项 | 结果
门控 AUC，保留语料的停顿 | 0.733
情绪准确率，书面开发集 | 86%
被判为 bad 的新悲伤句子 | 12 of 12
阈值 0.7 的回声，合适的触发 | 14 of 14

• 输入：只有当前话轮的文字和几个计数器，没有音频。
• 语言：英语。
• 规则：原始分数不是完整的策略，example.py 应用了模型卡的前三条规则。
• 训练：这个仓库只有模型权重，有些标签来自本地的 Qwen 模型和 OpenAI 模型。
• License: mit
• Cost to run: 没有提到 API 密钥或付费服务。
• Data it reaches: 它从 Hugging Face 下载文件，只读取你给它的转写文字。
• Not for: 用户明确说完话之后，替代你助手的回复。

Hugging Face 上的数据（2026年11月13日）

• 任务：text classification
• 框架：onnxruntime
• 最近 30 天下载：114
• 点赞：27
• 许可证：mit
• 语言：en
• 基于：jhu-clsp/ettin-encoder-32m
• 标签：onnxruntime, onnx, backchannel, voice-assistant, conversational-ai, text-classification

链接

• 模型：https://huggingface.co/KoljaB/backchannel-cue-32m
• 文件：https://huggingface.co/KoljaB/backchannel-cue-32m/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download KoljaB/backchannel-cue-32m

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。