Laya-GGUF
ggml-org · 工具包
一个 4.21 亿参数的小型决策模型,GGUF 格式,在本地提供服务,通过 systemone API 调用。适合使用 llama.cpp 工具、想要紧凑分类器的开发者。
ggml-org · 工具包
一个 4.21 亿参数的小型决策模型,GGUF 格式,在本地提供服务,通过 systemone API 调用。适合使用 llama.cpp 工具、想要紧凑分类器的开发者。
ggml-org · 工具包
通过 llama 服务的 /v1/systemone API 做决策,来自一个 4.2B 模型的 GGUF 副本。适合想要小型本地决策模型的开发者。
bespokelabs · 工具包
用 Qwen3.5-9B 上的 LoRA 适配器,根据一段文字给是非题、选择题和评分等级打分。适合需要返回概率而不是自由文本的分类器的开发者。
Srimon12 · 工具包
154M 参数的零样本文本分类器,一次推理就为你传入的每个标签打分,适用于单标签、多标签和意图任务,也能处理长输入。适合需要在 Python 里快速给文本打标签的开发者。
mrm8488 · 工具包
一个 272M 的模型,由 EmbeddingGemma 2 微调而来,读取工作流的状态和一份问题模式,并为每个问题返回带有校准置信度的类型化答案。
akhilaaa3 · 工具包
针对文字、图像、音频或视频提出的问题,对你列出的每个选项给出概率,而不是写一段解释。这是基于 Gemma 4 的 12B 分类器,适合需要带分数决策的开发者。
KoljaB · 工具包
根据到目前为止的文字,判断语音助手何时该在用户还在说话时插入一个小的倾听声,比如 mhm 或 oh no。只处理文本,在 CPU 上约 5 毫秒就能给出结果。
jaredpalmer · 工具包
读取一份文档和带类型的问题,一次计算就为每个答案选项返回校准过的概率,不生成文字。这是基于 Qwen3.5-4B 的决策模型,适合需要给文档分流、分诊或检查的开发者。
fastino · 工具包
对英文文本按你在调用时传入的任意标签集进行分类,比如意图、路由、情感或紧急程度,一次完成,不需要提示词模板。这是 Fastino 推出的面向运营决策的小型专用模型。
StrandsAgents · 工具包
为智能体流程做快速决策:在选项中挑选,或按等级打分,每个答案都带校准过的置信度。适合做模型路由、选择工具和分流请求的开发者。
BAAI · 工具包
判断一段文字对查询的回答程度,用来给搜索结果重新排序,支持多种语言。输入问题和文档,返回一个相关性分数。适合构建搜索和检索流程的人。
pavanmantha · 工具包
对照证据检查一条医学论断,回答 supported、unsupported 或 contradicted。这是微调过的 Laya 模型,用于英文临床笔记文本的研究,不能用于临床决策。
feder-cr · 工具包
一个本地决策模型,在笔记本 CPU 上约 28 到 130 毫秒就能回答关于文本的是非、选择和打分问题,为每个答案返回概率。适合想要免费本地方案、替代云端决策 API 的开发者。
perplexity-ai · 工具包
一次读入一个情境和多个问题,再逐个给出选择、是否或分数。适合需要分派、标记或评估请求的团队。
perplexity-ai · 工具包
Perplexity 的小型决策模型,基于 Qwen3.5-4B,读取文字和图片,用概率回答选择题、是非题和打分题,适合快速分流和分诊。
sarvamai · 工具包
针对一段文字提出的问题,一次前向计算就给出每个答案选项的概率。适合需要固定选项决策的团队,比如工单分派,要用大显存的 NVIDIA 显卡。
rayline-ai · 工具包
读取智能体的对话,预测哪个模型会成功、会用多少词元、该花多少推理,让应用按质量和成本来路由请求。适合智能体开发者。