Laya-GGUF
ggml-org · 工具包
一个 4.21 亿参数的小型决策模型,GGUF 格式,在本地提供服务,通过 systemone API 调用。适合使用 llama.cpp 工具、想要紧凑分类器的开发者。
写代码、审代码用的提示词、编程智能体任务说明和工具包,花更少的 Token。
ggml-org · 工具包
一个 4.21 亿参数的小型决策模型,GGUF 格式,在本地提供服务,通过 systemone API 调用。适合使用 llama.cpp 工具、想要紧凑分类器的开发者。
ggml-org · 工具包
通过 llama 服务的 /v1/systemone API 做决策,来自一个 4.2B 模型的 GGUF 副本。适合想要小型本地决策模型的开发者。
Contrastive-LM · 工具包
为给定的状态,给候选答案、动作或工具名各打一个概率,而不是写文字。这是建在冻结的 Qwen3-8B 编码器上的快速决策模型,适合智能体和分流工具的构建者。
bespokelabs · 工具包
传入上下文和带类型的问题(选择题、是非题或有序评分),为每个答案选项给出概率。这是 Qwen3.8-27B 的微调版本,适合构建分类器和决策步骤的开发者。
taobao-mnn · 工具包
读取一段文字状态和你的问题,在一次计算里为每个问题从你给的选项中选出答案,并给出各候选项的概率。这是面向开发者的决策模型,不是聊天模型。
mrm8488 · 工具包
一个 272M 的模型,由 EmbeddingGemma 2 微调而来,读取工作流的状态和一份问题模式,并为每个问题返回带有校准置信度的类型化答案。
akhilaaa3 · 工具包
针对文字、图像、音频或视频提出的问题,对你列出的每个选项给出概率,而不是写一段解释。这是基于 Gemma 4 的 12B 分类器,适合需要带分数决策的开发者。
jaredpalmer · 工具包
读取一份文档和带类型的问题,一次计算就为每个答案选项返回校准过的概率,不生成文字。这是基于 Qwen3.5-4B 的决策模型,适合需要给文档分流、分诊或检查的开发者。
fastino · 工具包
对英文文本按你在调用时传入的任意标签集进行分类,比如意图、路由、情感或紧急程度,一次完成,不需要提示词模板。这是 Fastino 推出的面向运营决策的小型专用模型。
vllm-sr · 工具包
一个 9B 模型,一次调用就能回答关于文字、图像或视频的多个选择、是非和打分问题,并为每个答案返回概率而不是生成文字。适合路由和决策任务。
vllm-sr · 工具包
用一次调用回答关于文字、图像或视频的选择、是非和打分问题,为每个答案返回概率而不是文字。这是 27B 的决策模型,适合做路由和分流的开发者。
StrandsAgents · 工具包
为智能体流程做快速决策:在选项中挑选,或按等级打分,每个答案都带校准过的置信度。适合做模型路由、选择工具和分流请求的开发者。
vllm-sr · 工具包
对同一份文本、图片或视频输入一次回答多个问题,为每个答案给出概率,不生成文字。这是 vLLM Semantic Router 推出的 27B 多模态决策模型。
JoyIndustrial · 工具包
以选项和概率回答关于文本和图像的结构化问题,是京东工业推出的决策系统,基于 Qwen3.8-27B 并内置 OCR。适合需要分派或分类请求的团队。
openjev · 工具包
针对文本、网页和截图回答带类型的决策,一次前向计算,根据你自己的标签给出选项、是非概率或分数。适合构建分流、审核和浏览器智能体的团队。
hindsight-ai · 工具包
针对文本状态上的有类型问题,一次给出每个选项的概率,不生成文字,支持八种语言。这是 Hindsight 工具用的 0.8B 决策模型,可用 vLLM 或 Transformers 提供服务。
feder-cr · 工具包
一个本地决策模型,在笔记本 CPU 上约 28 到 130 毫秒就能回答关于文本的是非、选择和打分问题,为每个答案返回概率。适合想要免费本地方案、替代云端决策 API 的开发者。
decisionmodels · 工具包
让两个模型在同一张 GPU 上并行运行并取平均,为决策请求的各个选项返回概率。适合想要通过兼容 Jev 的接口使用开放决策模型的团队。
baselabs · 工具包
一次性回答关于某个情境的一组问题,并为每个选项给出校准过的概率。这是 Baseten 的 Base Labs 发布的 9B 决策模型,由 Qwen3.5-9B 调整而来。
perplexity-ai · 工具包
Perplexity 的小型决策模型,基于 Qwen3.5-4B,读取文字和图片,用概率回答选择题、是非题和打分题,适合快速分流和分诊。