BotPsy-0.8B

BotPsy-0.8B

一个专为函数调用和智能体工作流设计的 0.8B 小模型，基于 Qwen3.5-0.8B，轻到可以在设备上运行，适合想要本地使用工具的助手的开发者。

由 qvac 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：BotPsy-0.8B 是 Tether AI Research 基于 Qwen3.5-0.8B 构建的小模型，专为函数调用和智能体工作流设计。它像一个会用工具完成简单任务的个人助手，轻到可以在设备上使用。这个仓库提供 safetensors 格式的 BF16 权重，GGUF 版本在另一个仓库里。

适合谁：想在自己硬件上运行一个微型会用工具的模型的开发者会觉得合适。模型卡列出的领域有搜索、旅行、商务、客户运营、设备控制、文件、日历和消息。它适合简单到中等难度的任务。

行业 | 谁在用 | 怎么用 | 例子
软件 | 智能体开发者 | 运行一个本地模型，由它选择调用哪个工具 | 不用托管 API 的助手原型
客户运营 | 支持工程师 | 处理需要遵循既定政策的多轮请求 | 一个电信客服工作流
设备与车辆 | 嵌入式开发者 | 把语音或文字请求变成设备动作 | 控制一个联网家电
研究 | 机器学习学生 | 把小型智能体模型和更大的模型做比较 | 阅读模型卡里的基准表格

如果你的任务很难，可以跳过它，因为模型卡说这个模型适合低到中等难度。

用在哪里：

• 带 transformers 库的 Python，Hugging Face 列出了它
• llama.cpp 和 QVAC SDK，通过单独的 GGUF 仓库使用
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

用途 | 适合谁 | 得到什么
工具调用 | 智能体开发者 | 对符合请求的工具的调用
多轮任务 | 支持工程师 | 在长对话中遵循政策的回复
拒绝请求 | 产品团队 | 没有合适工具时给出的拒绝

如何设置：你需要带 pip 的 Python，以及一台放得下约 1.7 GB BF16 权重的机器。来源没有给出运行代码，详情请看模型卡自己的页面。

• Python 和 pip，在 Windows、macOS 或 Linux 上
• transformers 库
• 约 1.7 GB 的空间，用于 BF16 权重

1. 安装 Hugging Face 的 hub 软件包。
2. 下载模型文件。
3. 在 transformers 里加载模型，并开启思考模式。

pip install -U huggingface_hub
hf download qvac/BotPsy-0.8B

如何使用：给模型一个任务，并附上它可以调用的工具的描述。模型卡说它在回答之前会先思考，用的是一个叫 enable_thinking 的设置。来源没有给出调用方式，具体代码请看模型页面。

工具 | 作用
enable_thinking=True | 开启模型卡描述的思考模式

示例：你描述一个日历工具，让模型为周五订一个会议。它先思考，然后回复一个对该工具的调用，里面带着请求的细节。

新手与专家：函数调用的意思是，模型的回答是一个运行工具的请求，而不只是文字。一个好的第一步是先在一个简单的单工具任务上试用，再去搭建更长的流程。

这个模型使用 Qwen3.5 架构，是 Gated DeltaNet 和门控注意力的混合体，只处理文字。模型卡报告 BFCL v4 从基础模型的 23.4 提升到 44.0，在没有合适工具时拒绝调用的幻觉测试里得分 86.1。指令遵循也有提升，IFEval 从 59.7 升到 90.8。这些分数来自作者。

你给出任务和工具描述
模型把请求想一遍
它直接回答，或者调用合适的工具
你的代码运行工具并把结果送回去

Title: 智能体基准分数，基础模型与 BotPsy 对比
BFCL v4 base: 23.4 points
BFCL v4 BotPsy: 44.0 points
ACEBench base: 30.1 points
ACEBench BotPsy: 58.7 points
tau-bench base: 23.2 points
tau-bench BotPsy: 51.5 points

注意事项：

• License：Apache 2.0，以 Hugging Face 上列出的为准
• Cost to run：没有提到
• Data it reaches：取决于你连接的工具，比如邮件或日历，来源没有提到直接访问
• 推荐使用英语
• Not for：难题，因为模型卡说它适合低到中等难度的任务
• 它仍然可能出错，模型卡自己也这样说明

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：853M
• Weights: about 1.7 GB in BF16; about 426 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：215
• 点赞：14
• 许可证：apache-2.0
• 语言：en
• 基于：Qwen/Qwen3.5-0.8B
• Quantized versions: 5
• 标签：transformers, safetensors, qwen3_5, image-text-to-text, tool-calling, function-calling, agent, agentic, on-device, edge, tether-ai, qvac

链接

• 模型：https://huggingface.co/qvac/BotPsy-0.8B
• 文件：https://huggingface.co/qvac/BotPsy-0.8B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download qvac/BotPsy-0.8B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。