Smaug-Decisions

Smaug-Decisions

针对音频、图像或文本的提问，一次前向传播就给出每个选项的概率，不生成文字。这是从 Gemma 4 E4B-it 微调而来的 4B 决策模型。

由 abacusai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Smaug-Decisions 是 Abacus.AI 的 4B 决策模型，能听、能看、能读。Abacus.AI 在 Google 的 Gemma 4 E4B-it 基础上继续训练得到了它。你给它音频、图像或文本，再加上一个带几个选项的问题，它在一次前向传播中为每个选项返回一个校准过的概率，不生成文字。

适合谁：它适合需要从音频、图像或文本中快速得到可设阈值的判断的开发者，例如检测说话人是否已经说完。

Title: 谁可能用到它
行业 | 谁在用 | 怎么用 | 例子
语音智能体 | 开发者 | 根据音频判断说话人是否说完 | 一段通话录音的是或否概率
音频分析 | 产品团队 | 对音频片段提出输入的问题，并根据概率采取行动 | 对某个选项的概率设置阈值
移动应用 | 应用开发者 | 通过 LiteRT 版本在手机上离线做判断 | 在 iPhone 上不联网回答一个文本问题
研究 | 机器学习研究者 | 按输入类型比较决策模型 | 阅读 Earshot 和 Jev Decision Index 的分数

需要生成文字，或超过 30 秒音频的人可以跳过。

用在哪里：

• Transformers：NVIDIA GPU 上用 bfloat16，Apple Silicon 上通过 MPS，或在 CPU 上
• 手机：通过单独的 Smaug-Decisions-LiteRT 版本
• 更快的一档：模型卡链接了一个 0.7B 的纯音频同系模型
• Windows、macOS 或 Linux：用 Python 下载文件

Title: 它能做的事
用途 | 适合谁 | 得到什么
音频判断 | 语音开发者 | 针对最长 30 秒片段的每个选项的概率
图像提问 | 应用团队 | 关于一张图像的每个选项的概率
文本提问 | 开发者 | 关于一段文本的每个选项的概率

如何设置：你需要先准备：

• Windows、macOS 或 Linux 上的 Python
• huggingface_hub 和 Transformers 库
• 约 17.2 GB 的 BF16 权重存储空间，4-bit 时估计为 4.3 GB

1. 安装 Hugging Face hub 软件包。
2. 下载模型文件。
3. 像用法代码那样，用仓库里附带的辅助脚本加载模型。

pip install -U huggingface_hub
hf download abacusai/Smaug-Decisions

如何使用：用辅助脚本加载模型，然后传入一个输入和一个问题调用它。它会为每个选项返回一个概率。

import sys
from huggingface_hub import snapshot_download
sys.path.insert(0, snapshot_download("abacusai/Smaug-Decisions", allow_patterns=["smaug_decide.py"]))
from smaug_decide import SmaugDecide                                   # ships with this repo

model = SmaugDecide.from_pretrained("abacusai/Smaug-Decisions")
model("call.wav", "Has the speaker finished their turn?")               # -> {'Yes': 0.93, 'No': 0.07}

输入可以是最长 30 秒、16 kHz 单声道的音频，也可以是图像或文本。问题带有 2 到 20 个选项。单选用 softmax，多选用 sigmoid。

示例：你传入一段通话录音，问说话人是否已经说完。模型为每个选项返回一个概率，就像模型卡的示例那样，是的为 0.93，不是为 0.07。

新手与专家：如果你刚接触，可以把它看作一位评判者，回答关于声音、图片或文本的选择题，并告诉你它有多确定。先用一小段音频和一个是或否的问题试试。

如果你熟悉这个领域，模型为每个选项读出一个字母 logit，而不是解码文本。按计算量算它是 4B 模型，存储的参数有 8.6B，因为其中 3.5B 在只被查找的嵌入表里。模型卡说它的概率比它所对比的前沿 API 校准得更好，期望校准误差为 0.069。

传入音频、图像或文本
加上一个有 2 到 20 个选项的问题
一次前向传播读出各选项
返回每个选项的概率

注意事项：Abacus.AI 在自己的 6,671 题 Earshot 基准上衡量音频能力。在公开的 Jev Decision Index 上，模型的图像得分为 57.9，文本得分为 56.6。

Title: Earshot 音频得分
Smaug-Decisions: 60.1 分
Gemini 4 Argon: 59.4 分
Gemini 3.8 Flash: 50.5 分

• License: apache-2.0
• Cost to run: 未提及
• Data it reaches: 你传入的音频、图像和文本
• Not for: 开放式文本生成，因为它回答的是选项概率，也不适合超过 30 秒的音频

Hugging Face 上的数据（2026年11月13日）

• 任务：any to any
• 框架：transformers
• 参数量：8.6B
• Weights: about 17.2 GB in BF16; about 4.3 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：110
• 点赞：4
• 许可证：apache-2.0
• 语言：en
• 基于：google/gemma-4-E4B-it
• Quantized versions: 1
• 标签：transformers, safetensors, gemma4, image-text-to-text, decisions, typed-decisions, audio, vision, calibration, on-device, smaug, abacusai

链接

• 模型：https://huggingface.co/abacusai/Smaug-Decisions
• 文件：https://huggingface.co/abacusai/Smaug-Decisions/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download abacusai/Smaug-Decisions

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。