Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
针对文字、图像、音频或视频提出的问题,对你列出的每个选项给出概率,而不是写一段解释。这是基于 Gemma 4 的 12B 分类器,适合需要带分数决策的开发者。
Jev-Omni 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download akhilaaa3/Jev-Omni
Jev-Omni 是一个决策分类器,能处理文字、图片、声音和视频。你给它一个情境、一个问题和一组选项,它为每个选项返回一个概率,不写解释。它基于 Gemma 4 12B IT,用 30,000 个问题微调而成。
适合需要对混合媒体的选择题或是非题得到快速、带分数答案的开发者。它适合路由、检查和分流这类概率比文字更重要的工作。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 开发者 | 给流水线加一个带分数的决策步骤 | 根据时间询问会议是否已经开始 |
| 媒体审核 | 内容团队 | 针对一个问题对片段、图像或音频分类 | 为一段短视频挑选最合适的标签 |
| 运营 | 工作流构建者 | 用概率而不是文字来路由事项 | 为收到的事项在几个队列中选一个 |
| 研究 | 评测研究人员 | 比较决策基准 | 在模型卡报告的 DecisionBench 或 JevBench 上测试它 |
如果你想要书面回答、聊天或解释,可以跳过它。它也没有 CPU 路径,因为模型卡说需要 CUDA GPU。
| 用例 | 适合谁 | 得到什么 |
|---|---|---|
| 是非检查 | 开发者 | 是和否各自的概率 |
| 多项选择 | 工作流构建者 | 最多 20 个选项中每个选项的概率 |
| 图像、音频或视频问题 | 媒体团队 | 关于你附上的文件的带分数回答 |
需要 CUDA GPU。FP32 权重在运行时开销之前约占 50 GB,推理使用 BF16 自动混合精度。
pip install -U huggingface_hub hf download akhilaaa3/Jev-Omni
下载仓库,加载分类器,然后用一个状态、一个问题和你的选项调用 predict。结果里包含每个选项的概率。
from huggingface_hub import snapshot_download
path = snapshot_download("akhilaaa3/Jev-Omni")
import sys; sys.path.insert(0, path)
from jev_omni import load_jev_omni
classifier = load_jev_omni()
result = classifier.predict(
state="The meeting starts at 10 AM. It is now 9 AM.",
question="Has the meeting started?",
options=["Yes", "No"],
)
print(result)要询问图像、音频文件或视频,请添加一个 media 路径,并把 modality 设为 image、audio 或 video。音频上限为 30 秒,视频使用 16 帧。
| 工具 | 作用 |
|---|---|
| load_jev_omni | 加载分类器,并获取原版 Gemma 4 的多模态部分 |
| predict | 接收状态、问题和选项,为每个选项返回一个概率 |
| media 和 modality | 把图像、音频文件或视频附到问题上 |
| snapshot_download | 获取仓库文件,包括加载器模块 |
你给它一条说会议 10 点开始、现在是 9 点的说明,问会议是否已经开始,并给出是和否两个选项。它为两者各返回一个概率,否的分数更高。
你可以把它看成一个快速裁判。你描述一个情境,提出一个问题,列出可能的答案,它告诉你每个答案的可能性有多大。先从文字示例开始,再读打印出来的结果。
这个模型是 Gemma 4 12B IT 的微调版本。在预热过的 H200 上,模型卡测得约 2k 个令牌的文字为 83 ms,图像为 26 ms,13 秒音频为 31 ms,16 帧视频为 504 ms,均为 20 次请求的中位数。中等规模测试集上的校准误差为 0.0400,选项在 20 个以内时质量最好。
针对文字、图像、音频或视频提出的问题,对你列出的每个选项给出概率,而不是写一段解释。这是基于 Gemma 4 的 12B 分类器,适合需要带分数决策的开发者。
由 akhilaaa3 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Jev-Omni 是一个决策分类器,能处理文字、图片、声音和视频。你给它一个情境、一个问题和一组选项,它为每个选项返回一个概率,不写解释。它基于 Gemma 4 12B IT,用 30,000 个问题微调而成。
适合谁:适合需要对混合媒体的选择题或是非题得到快速、带分数答案的开发者。它适合路由、检查和分流这类概率比文字更重要的工作。
行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 给流水线加一个带分数的决策步骤 | 根据时间询问会议是否已经开始
媒体审核 | 内容团队 | 针对一个问题对片段、图像或音频分类 | 为一段短视频挑选最合适的标签
运营 | 工作流构建者 | 用概率而不是文字来路由事项 | 为收到的事项在几个队列中选一个
研究 | 评测研究人员 | 比较决策基准 | 在模型卡报告的 DecisionBench 或 JevBench 上测试它
如果你想要书面回答、聊天或解释,可以跳过它。它也没有 CPU 路径,因为模型卡说需要 CUDA GPU。
用在哪里:
用例 | 适合谁 | 得到什么
是非检查 | 开发者 | 是和否各自的概率
多项选择 | 工作流构建者 | 最多 20 个选项中每个选项的概率
图像、音频或视频问题 | 媒体团队 | 关于你附上的文件的带分数回答
如何设置:需要 CUDA GPU。FP32 权重在运行时开销之前约占 50 GB,推理使用 BF16 自动混合精度。
pip install -U huggingface_hub
hf download akhilaaa3/Jev-Omni
如何使用:下载仓库,加载分类器,然后用一个状态、一个问题和你的选项调用 predict。结果里包含每个选项的概率。
from huggingface_hub import snapshot_download
path = snapshot_download("akhilaaa3/Jev-Omni")
import sys; sys.path.insert(0, path)
from jev_omni import load_jev_omni
classifier = load_jev_omni()
result = classifier.predict(
state="The meeting starts at 10 AM. It is now 9 AM.",
question="Has the meeting started?",
options=["Yes", "No"],
)
print(result)
要询问图像、音频文件或视频,请添加一个 media 路径,并把 modality 设为 image、audio 或 video。音频上限为 30 秒,视频使用 16 帧。
工具 | 作用
load_jev_omni | 加载分类器,并获取原版 Gemma 4 的多模态部分
predict | 接收状态、问题和选项,为每个选项返回一个概率
media 和 modality | 把图像、音频文件或视频附到问题上
snapshot_download | 获取仓库文件,包括加载器模块
示例:你给它一条说会议 10 点开始、现在是 9 点的说明,问会议是否已经开始,并给出是和否两个选项。它为两者各返回一个概率,否的分数更高。
新手与专家:你可以把它看成一个快速裁判。你描述一个情境,提出一个问题,列出可能的答案,它告诉你每个答案的可能性有多大。先从文字示例开始,再读打印出来的结果。
这个模型是 Gemma 4 12B IT 的微调版本。在预热过的 H200 上,模型卡测得约 2k 个令牌的文字为 83 ms,图像为 26 ms,13 秒音频为 31 ms,16 帧视频为 504 ms,均为 20 次请求的中位数。中等规模测试集上的校准误差为 0.0400,选项在 20 个以内时质量最好。
提供状态、问题和选项
需要时附上图像、音频或视频
分类器给每个选项打分
读取每个选项的概率
Title: 各基准的报告得分
DecisionBench Medium: 87.57 %
JevBench: 86.15 %
MMAU: 63.10 %
MVBench: 53.10 %
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download akhilaaa3/Jev-Omni
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Jev-Omni 本页 | 3,744 | 450 | 12B | apache-2.0 | |
| Copernicus (31B)共有 text-classification · decision-model · multimodal | 75 | 3 | 31.3B | apache-2.0 | |
| pplx-decider-flash-v1.2共有 text-classification · decision-model · multimodal | 7,052 | 78 | 4.5B | apache-2.0 | |
| pplx-decider-v1.2共有 text-classification · decision-model · multimodal | 5,700 | 74 | 26.1B | apache-2.0 | |
| Seb-9B-v2共有 text-classification · decision-model · image-text-to-text | 265 | 4 | 9.7B | apache-2.0 | |
| gemma-4-12B-it共有 gemma4_unified · image-text-to-text · transformers | 1,738,905 | 1,735 | 12B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。