Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
用内置 OCR 的 Qwen3.8-27B 决策系统,针对图像和文字回答选择题式的问题,并给出各选项的概率。适合需要从图片得到结构化选择的开发者。
JDI-Decision-V0.9 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download JoyIndustrial/JDI-Decision-V0.9
JDI-Decision-V0.9 是京东工业(JD Industrials)的决策系统,建立在 Qwen3.8-27B 上,并针对决策架构做了改动。你给它文字、图片、一个问题和一组选项,它返回一个结构化的答案,并给出每个选项的概率。内部有视觉编码器、冻结的 PaddleOCR v5 文字识别器、决策主干和 FP32 读出层。
它适合想从图片和文字得到结构化、带分数的选择的开发者和研究者,比如识别标志牌或做视觉选择题。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 开发者 | 给应用加上针对图片的带分数选择题回答 | 问一块标志牌显示的是两个选项中的哪一个 |
| 工业供应 | 商品目录团队 | 读取商品图片里的文字,并在固定选项里挑选 | 根据标签照片给一件商品分类 |
| 研究 | 评测研究者 | 在公开视觉测试集上复现并测试这个系统 | 把延迟和分数与卡片的报告对比 |
| AI 工程 | 机器学习工程师 | 在决策流程里使用选项概率 | 按最可能的选项分发请求 |
如果你需要开放式聊天或图片说明,可以跳过它,因为它返回的是选项和概率。
| 使用场景 | 适合谁 | 能得到什么 |
|---|---|---|
| 视觉选择题 | 开发者 | 一个答案,以及每个选项的概率 |
| 图片里的文字 | 商品目录团队 | 加入模型对图片理解的 OCR 文字 |
| 基准测试 | 研究者 | 在公开视觉测试集上的分数和延迟 |
你需要 Python 3.12 和一块 CUDA GPU。安装脚本会下载 OCR 模型文件并检查它们的哈希值。
pip install -U huggingface_hub hf download JoyIndustrial/JDI-Decision-V0.9
你创建组合引擎,传入一个状态、一个带选项的问题和一张或多张图片,然后打印回应。引擎在一块 GPU 上并行运行 OCR 和视觉编码。
bash ocr_inference/setup.sh
source .venv-ocr/bin/activate
CUDA_VISIBLE_DEVICES=0 python - <<'PY'
from ocr_inference import ComboEngine
engine = ComboEngine()
try:
response, raw = engine(
state={},
questions={"answer": {"type": "choice", "instructions": "What does the sign say?",
"criteria": {"A": "STOP", "B": "GO"}}},
images=["example.png"],
)
print(response)
finally:
engine.close()
PY| 工具 | 作用 |
|---|---|
| ocr_inference.ComboEngine | 运行包含 OCR 的完整系统,用于复现 |
| inference.D3Engine | 内部的决策模型,不含 OCR 步骤 |
| ocr_inference/setup.sh | 构建 OCR 环境并检查下载的压缩包 |
你传入一张标志牌的照片,问它上面写了什么,并给出 STOP 和 GO 两个选项。引擎会打印一个结构化的回应,选出一个选项并给出每个选项的概率。
可以把它看作一个从你提供的选项里挑选的模型。第一件可以试的小事,是用卡片里的示例,配上你自己的图片和两个选项。
图片会被解码、转成 RGB 并调整大小,然后分成两条并行分支。视觉编码器提取特征,冻结的 OCR 读出文字并加入状态。决策主干连同你的问题和选项一起读取两者,FP32 读出层给出概率。视觉特征只在一个请求内部复用。
用内置 OCR 的 Qwen3.8-27B 决策系统,针对图像和文字回答选择题式的问题,并给出各选项的概率。适合需要从图片得到结构化选择的开发者。
由 JoyIndustrial 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:JDI-Decision-V0.9 是京东工业(JD Industrials)的决策系统,建立在 Qwen3.8-27B 上,并针对决策架构做了改动。你给它文字、图片、一个问题和一组选项,它返回一个结构化的答案,并给出每个选项的概率。内部有视觉编码器、冻结的 PaddleOCR v5 文字识别器、决策主干和 FP32 读出层。
适合谁:它适合想从图片和文字得到结构化、带分数的选择的开发者和研究者,比如识别标志牌或做视觉选择题。
行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 给应用加上针对图片的带分数选择题回答 | 问一块标志牌显示的是两个选项中的哪一个
工业供应 | 商品目录团队 | 读取商品图片里的文字,并在固定选项里挑选 | 根据标签照片给一件商品分类
研究 | 评测研究者 | 在公开视觉测试集上复现并测试这个系统 | 把延迟和分数与卡片的报告对比
AI 工程 | 机器学习工程师 | 在决策流程里使用选项概率 | 按最可能的选项分发请求
如果你需要开放式聊天或图片说明,可以跳过它,因为它返回的是选项和概率。
用在哪里:
使用场景 | 适合谁 | 能得到什么
视觉选择题 | 开发者 | 一个答案,以及每个选项的概率
图片里的文字 | 商品目录团队 | 加入模型对图片理解的 OCR 文字
基准测试 | 研究者 | 在公开视觉测试集上的分数和延迟
如何设置:你需要 Python 3.12 和一块 CUDA GPU。安装脚本会下载 OCR 模型文件并检查它们的哈希值。
pip install -U huggingface_hub
hf download JoyIndustrial/JDI-Decision-V0.9
如何使用:你创建组合引擎,传入一个状态、一个带选项的问题和一张或多张图片,然后打印回应。引擎在一块 GPU 上并行运行 OCR 和视觉编码。
bash ocr_inference/setup.sh
source .venv-ocr/bin/activate
CUDA_VISIBLE_DEVICES=0 python - <<'PY'
from ocr_inference import ComboEngine
engine = ComboEngine()
try:
response, raw = engine(
state={},
questions={"answer": {"type": "choice", "instructions": "What does the sign say?",
"criteria": {"A": "STOP", "B": "GO"}}},
images=["example.png"],
)
print(response)
finally:
engine.close()
PY
工具 | 作用
ocr_inference.ComboEngine | 运行包含 OCR 的完整系统,用于复现
inference.D3Engine | 内部的决策模型,不含 OCR 步骤
ocr_inference/setup.sh | 构建 OCR 环境并检查下载的压缩包
示例:你传入一张标志牌的照片,问它上面写了什么,并给出 STOP 和 GO 两个选项。引擎会打印一个结构化的回应,选出一个选项并给出每个选项的概率。
新手与专家:可以把它看作一个从你提供的选项里挑选的模型。第一件可以试的小事,是用卡片里的示例,配上你自己的图片和两个选项。
图片会被解码、转成 RGB 并调整大小,然后分成两条并行分支。视觉编码器提取特征,冻结的 OCR 读出文字并加入状态。决策主干连同你的问题和选项一起读取两者,FP32 读出层给出概率。视觉特征只在一个请求内部复用。
图片被解码、转换并调整大小
视觉编码器和 OCR 并行运行
决策主干读取特征和文字
FP32 读出层给出答案和概率
注意事项:
Title: 请求延迟,单位毫秒,两个 H200 工作进程
平均: 345.5 ms
中位数(P50): 282.4 ms
P80: 426.8 ms
P90: 604.2 ms
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download JoyIndustrial/JDI-Decision-V0.9
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| JDI-Decision-V0.9 本页 | 237 | 2 | 26.1B | cc-by-nc-4.0 | |
| JDI-Decision-V1共有 paddleocr · decision-model · pytorch | 249 | 12 | 26.1B | cc-by-nc-4.0 | |
| pplx-decider-flash-v1.2共有 decision-model · pytorch · multimodal | 7,052 | 78 | 4.5B | apache-2.0 | |
| pplx-decider-v1.2共有 decision-model · pytorch · multimodal | 5,700 | 74 | 26.1B | apache-2.0 | |
| d3-flash共有 decision-model · multimodal · qwen3_5 | 103,577 | 114 | 8.4B | apache-2.0 | |
| Clef共有 decision-model · multimodal · qwen3_5 | 72,287 | 2,356 | 27.4B | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。