hs-decide-1-flash

hs-decide-1-flash

针对文本状态上的有类型问题，一次给出每个选项的概率，不生成文字，支持八种语言。这是 Hindsight 工具用的 0.8B 决策模型，可用 vLLM 或 Transformers 提供服务。

由 hindsight-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：hs-decide-1-flash 是 hindsight-ai 推出的小型决策模型，专为配合 Hindsight 使用而做。它有 0.8B 参数，起点是 Qwen3.5-0.8B。你用文字描述一个情形，再附上关于这个情形的有类型的问题交给它。它一次就回复每个可能答案的可能性和一个置信度数字，从不生成成段的文字。

适合谁：想要小模型快速给出结构化决策，比如给工单分类或在文档之间做选择，并且使用或基于 Hindsight 开发的开发者。

Industry | Who uses it | How they use it | Example
客户支持 | 支持工程师 | 用是非问题给工单分类 | 一张工单是不是账单问题
搜索与检索 | 检索工程师 | 为一个查询选出最佳文档 | 哪份文档给出当前日期
智能体构建 | 智能体开发者 | 给文档回答问题的程度打分 | 用四个等级给一段文字评分
多语言产品 | 全球化团队 | 用八种语言做决策 | 对一条日语消息做出的决策

如果你想要一个能写文字的模型，可以跳过它，因为它只返回概率。

用在哪里：

• Hindsight，它就是为此而做的
• vLLM，通过仓库 serving 文件夹里的插件
• Transformers 库，可在普通 CPU、搭载苹果芯片的 Mac 或兼容 PyTorch 的 GPU 上运行

Use case | Who | What they get back
是非检查 | 支持团队 | 答案为是的概率
在选项中选择 | 检索团队 | 2 到 255 个选项里每个选项的概率
有序评分 | 质量团队 | 2 到 10 个有序等级上的分数，附带概率

如何设置：

• Python 和 pip，走 Transformers 路线需要 Python 3.12 或更高版本
• 走 Transformers 路线时，要先按你的硬件安装 PyTorch
• BF16 约需 1.5 GB 磁盘空间，4-bit 约 376 MB（估算值）

1. 安装 Hugging Face hub 工具，并连同 serving 文件夹一起下载模型。
2. 安装服务包。
3. 启动服务器，或在 Python 里调用模型。

hf download hindsight-ai/hs-decide-1-flash --local-dir hs-decide-1-flash
pip install vllm==0.32.0 ./hs-decide-1-flash/serving
hindsight-decision-serve hs-decide-1-flash --port 8000

走 Transformers 路线时，取回 serving 文件夹，并带上它的 server 扩展安装。

hf download hindsight-ai/hs-decide-1-flash --include "serving/*" --local-dir hs-decide-1-flash
pip install './hs-decide-1-flash/serving[server]'

如何使用：在 Python 里加载模型，传入一个状态和一组有类型的问题，再读取概率。choice 问题有 2 到 255 个选项，score 问题有 2 到 10 个有序等级，noul 问题是是非题。

from hindsight_decision import DecisionModel

model = DecisionModel.from_pretrained("hindsight-ai/hs-decide-1-flash")
response = model.answer({
    "state": "Ticket: I was charged twice for my March invoice.",
    "questions": {"billing": {"type": "noul", "instructions": "Is this a billing problem?"}},
})
print(round(response["answers"]["billing"]["noul"], 3))
# 0.997

要用 Transformers 路线给 Hindsight 提供服务，先启动一个服务器。它一次只回答一个请求。

hindsight-decision-serve-transformers hindsight-ai/hs-decide-1-flash --port 8000 --api-key <key>

Tool | What it does
DecisionModel.from_pretrained | 在 Python 里加载模型
model.answer | 接收一个状态和有类型的问题，返回概率
hindsight-decision-serve | 为这个模型启动 vLLM 服务器
hindsight-decision-serve-transformers | 启动 Transformers 服务器，一次处理一个请求

示例：你把一段说自己三月账单被扣了两次款的工单文字交给它，并问这是不是账单问题。卡片的运行结果打印出约 0.997，也就是答案为是的概率。

新手与专家：如果你是新手，先运行那段简短的 Python 示例，把工单文字改一改，看概率怎么变。它不需要服务器。

这个模型用最长 65,536 个 token 的请求训练，并在同一次计算里回答关于一个状态的所有问题。如果 Hindsight 的请求超时，卡片建议调低最大请求 token 数，这样服务器会拒绝较长的请求，由 Hindsight 把它们拆开。

你写下一个状态
你加入有类型的问题
模型一次给每个选项打分
你读取概率

注意事项：

• 吞吐：Transformers 服务器一次只回答一个请求
• 语言：共八种，包括英语、日语、韩语和中文
• License: apache-2.0
• Cost to run: 没有提到付费服务，只需要你自己的硬件，服务器可以使用你设置的 API 密钥
• Data it reaches: 下载会取回模型文件，服务器会读取你发给它的请求
• Not for: 写文字，因为它返回概率，不生成任何文字

Hugging Face 上的数据（2026年11月13日）

• 任务：text ranking
• 框架：transformers
• 参数量：752M
• Weights: about 1.5 GB in BF16; about 376 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：858
• 点赞：20
• 许可证：apache-2.0
• 语言：en, es, fr, de, pt, ja, ko, zh
• 基于：Qwen/Qwen3.5-0.8B
• Quantized versions: 1
• Fine-tunes: 2
• 标签：transformers, safetensors, qwen3_5_text, text-generation, decision-model, reranker, agent-memory, vllm, hindsight, text-ranking

链接

• 模型：https://huggingface.co/hindsight-ai/hs-decide-1-flash
• 文件：https://huggingface.co/hindsight-ai/hs-decide-1-flash/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download hindsight-ai/hs-decide-1-flash

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。