THX-02

THX-02

针对一条消息、文档、图片或图表里的纯文字问题，在几十毫秒内给出每个选项的概率，适合做工单分流和记录分类的开发者。

由 HAL-X-AI 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：THX-02 是 HAL-X-AI 推出的决策模型。你给它一段内容，比如消息、工单、文档、JSON 记录、智能体轨迹、照片或图表，再加上用日常语言写的带类型的问题。它为每个问题的每个选项给出概率。不确定时，它可以先写一小段思考，再做决定。

适合谁：它适合需要对传入内容的固定问题得到快速、校准过的答案，并且不想为每个新任务重新训练的开发者和团队。

Industry | Who uses it | How they use it | Example
客户支持 | 支持工程师 | 给工单分流并标出退款请求 | 判断一条消息该交给哪个团队，以及它是否要求退款
制造业 | 质检团队 | 根据摄像头画面给物品分级 | 把流水线上的每个鸡蛋标成干净、脏或破裂
金融 | 分析人员 | 按设定的问题阅读图表和文档 | 问图表上哪一年利率跌得最低
智能体开发 | 开发者 | 用是非题检查智能体轨迹 | 智能体有没有完成交给它的任务

如果你需要的是自由写作，而不是在选项里做选择，可以跳过它。

用在哪里：

• Python，通过 thx02 包和它的客户端
• 命令行，通过 thx02 命令
• HAL-X 托管的 API，或你自己的服务器
• 你自己的电脑，用 GPU 或 CPU
• 手机，因为客户端没有依赖，在 Android 的 Termux 里也能用

Use case | Who | What they get back
工单分流 | 支持团队 | 一个团队选择，以及每个团队的概率
是非检查 | 开发者 | 答案为是的概率
量表打分 | 分析人员 | 在平静、烦躁或愤怒这样的有序量表上的位置

如何设置：

你需要先准备：

• Python 和 pip
• 可选的 HAL-X API 密钥，因为托管 API 的免费档按 IP 限额
• 如果自己运行模型，需要 GPU 或 CPU

1. 安装 thx02 包，它既是客户端也是命令。
2. 如果有 API 密钥，就设置它。
3. 要自己运行模型，就安装 local 扩展，或下载仓库及其依赖。

pip install thx02                          # API client + the thx02 command
export HALX_API_KEY=sk-...                 # HAL-X API key (optional on the free tier, which is limited per IP)

pip install "thx02[local]"                 # then: from thx02 import THX02; THX02.load("HAL-X-AI/THX-02")

hf download HAL-X-AI/THX-02 --local-dir THX-02 && cd THX-02
pip install -r requirements.txt            # add requirements-fast.txt for the compiled GPU path

如何使用：给模型一个状态和一组带类型的问题，它会为每个问题返回答案和概率。命令行把消息和问题当作选项传入。

thx02 "Salam, kartimdan iki defe pul cixilib" --choice "team=billing:charges and refunds,support:technical problems" \
      --yesno "Does the customer ask for a refund?"

Tool | What it does
choice | 从最多 255 个选项里选一个
noul | 用概率回答一个是非问题
score | 把答案放在一个有序量表上
decide | 接收状态和问题的 Python 调用
think | 不确定时让模型先写一小段思考

示例：一位客户写道：“I was charged twice.”你问该由哪个团队处理，是账单还是物流，以及客户是否想退款。模型会返回每个团队的概率和退款问题的概率。

新手与专家：它不写文章，而是从你给的选项里挑，并告诉你有多确定。第一步可以用命令行试一条短消息和两个问题。

模型从不凭空编造选项，除非思考，否则不生成自由文本。它是一个 4.5B 的决策模型加一个 60M 的思考适配器，训练支持最长 32k token 的请求，GPU 上用 BF16，CPU 上用 BF16 或 FP32。

你发送一个状态和带类型的问题
模型为每个选项打分
不确定时它可能先写一小段思考
你得到带概率的答案

注意事项：分数来自作者自己的测试，速度是在指定的 GPU 上测得的。

Title: Decision Index 0.3 公开指数上的得分
THX-01: 11.30
THX-02 不思考: 63.83
THX-02 思考: 65.06

• 速度: 一块 RTX PRO 6000 上，不思考时每个请求的中位数是 50 ms，思考时是 79 ms，一块 RTX 4090 上每秒 129 个请求
• 输入: 一个请求里可以放文字、图片和图表，最多 4 张图片
• 语言: 在后训练中用超过 20 种语言训练和评估
• License: Apache 2.0
• Cost to run: 托管 API 有可选的密钥，免费档按 IP 限额，没有给出价格
• Data it reaches: 默认客户端连接 HAL-X 托管 API，所以你的内容会发到那里，除非你自己运行模型

Hugging Face 上的数据（2026年11月13日）

• 任务：zero shot classification
• 框架：thx02
• 参数量：4.5B
• Weights: about 9.1 GB in BF16; about 2.3 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：6,598
• 点赞：54
• 许可证：apache-2.0
• 语言：en, az, zh, kk, uz, ky, ja, es
• 标签：thx02, safetensors, decision-model, classification, routing, multimodal, thinking, calibrated-probabilities, zero-shot-classification

链接

• 模型：https://huggingface.co/HAL-X-AI/THX-02
• 文件：https://huggingface.co/HAL-X-AI/THX-02/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download HAL-X-AI/THX-02

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。