回答问题并读取图像,思考过程短得多。这是 DavidAU 对 27B 的 Qwen 3.8 的调优版 GGUF,目标是在保持准确度的同时减少推理 token,适合在本地运行模型的人。
来自 Hugging Face 的 AI 项目
类别与筛选
商品
Maximizing Model Performance 指南
DavidAU · 工具包
指导你为本地语言模型调节采样器和参数,并给出在 LM Studio、SillyTavern、Ollama 和 Koboldcpp 里设置系统提示词、推理模型和专家数量的步骤。
Qwen3.8-27B-AWQ-INT4
cyankiwi · 工具包
cyankiwi 制作的 Qwen3.8-27B 4-bit AWQ 量化版本,一个带思考控制的 27B 视觉语言模型。权重为 21.02 GB,可在 Transformers、vLLM 或 SGLang 中加载。
cua-s1-forms
cua-ai · 工具包
为 GUI 表单的每个元素给出可能动作的评分,例如填写、勾选、点击或跳过,并返回每个选项的概率。这是一个很小的模型,适合开发表单填写智能体的开发者。
CLM-v0.1-8B
Contrastive-LM · 工具包
为给定的状态,给候选答案、动作或工具名各打一个概率,而不是写文字。这是建在冻结的 Qwen3-8B 编码器上的快速决策模型,适合智能体和分流工具的构建者。
FLUX.1-schnell for ComfyUI
Comfy-Org · 工具包
为 ComfyUI 重新打包的 FLUX.1-schnell 检查点,把文字提示词变成图像,带有一个运行更快、占用内存更少的 FP8 文件。适合 ComfyUI 用户。
BiRefNet
Comfy-Org · 工具包
Comfy-Org 重新打包的抠背景模型文件,可以在 ComfyUI 里加载。它生成一个遮罩,把主体和背景分开。适合在图像里抠出主体的 ComfyUI 用户。
cbx-indic-pii-extractor-17M
CobuildX-AI · 工具包
在印度语言和印度英语文本中找出姓名、电话号码、Aadhaar 和 PAN 等个人信息,并返回每个值的位置。这是一个 16.7M 参数、能在 CPU 上运行的模型。
Qwen3.8-27B iMatrix NVFP4 MTP GGUF
cdiamond · 工具包
Qwen3.8-27B 的 17.1 GB 混合精度 GGUF,保留了多词元预测层,为 24 GB GPU 上的 256K 上下文和视觉功能调优。适合在 llama.cpp 里本地运行大模型的人。
Qwen3.6-35B-A3B MTP GGUF
byteshape · 工具包
用带多词元预测的 GGUF 量化版本运行 Qwen3.6-35B-A3B,在 llama.cpp 里让 GPU 解码更快。由 ByteShape 制作,适合在显卡上运行本地模型的人。
Nimble-v4-max
bespokelabs · 工具包
传入上下文和带类型的问题(选择题、是非题或有序评分),为每个答案选项给出概率。这是 Qwen3.8-27B 的微调版本,适合构建分类器和决策步骤的开发者。
Bespoke-Nimble-9B
bespokelabs · 工具包
用 Qwen3.5-9B 上的 LoRA 适配器,根据一段文字给是非题、选择题和评分等级打分。适合需要返回概率而不是自由文本的分类器的开发者。
Hy-Nomas x LTX-2.5 Audio Workflows
BennyDaBall · 工具包
两个 ComfyUI 工作流,用标准的 LTX-2.5 蒸馏模型为无声的 Hy-Nomas 视频世界或任意视频片段配上音轨,画面保持不变。
NorthCUA-Nano
beipo-ai · 工具包
用基于 Qwen3.5 的 9B 稠密电脑操作模型,通过截图操作桌面和浏览器应用。适合用官方 NorthCUA 运行框架构建电脑操作智能体的开发者。
Meta-Llama-3.1-8B-Instruct-GGUF
bartowski · 工具包
Meta Llama 3.1 8B Instruct 的量化 GGUF 文件,用于本地聊天,例如 Q4_K_M 为 4.92 GB,Q8_0 为 8.54 GB。由 bartowski 用重要性矩阵制作。涵盖 8 种语言,可在 LM Studio 中运行。
Llama-3.2-3B-Instruct-GGUF
bartowski · 工具包
bartowski 用重要性矩阵为 Meta 的 Llama-3.2-3B-Instruct 制作的 GGUF 量化版本,大小约从 1.8 GB 到 6.4 GB。适合用 llama.cpp 或 LM Studio 在本地运行小型聊天模型。
KAT-Coder-V2.5-Dev GGUF
bartowski · 工具包
Kwaipilot 的 KAT-Coder-V2.5-Dev 的 imatrix GGUF 量化版本,这是一个 34.7B 文本模型,4 位文件约 19 GB 起。适合在本地运行名字里带 Coder 的大模型的人。
bge-small-zh-v1.5
BAAI · 工具包
把中文文本变成稠密向量,用于搜索、分类、聚类和语义匹配。这是 BAAI 的 24M 参数 BGE 嵌入模型,MIT 许可证,F32 下约 96 MB。
safetensored-upscalers
AshtakaOOf · 工具包
把图像放大模型和少量其他图像到图像模型收集在一个仓库里,以 safetensors 文件提供,由旧的 pickle 文件转换而来。适合在自己电脑上运行放大模型的人。
whisperkit-coreml
argmaxinc · 工具包
收录 WhisperKit 使用的 Core ML 语音识别模型,在 Apple Silicon 上无需服务器就能把音频转成文字。适合想让转写留在设备上的 Apple 应用开发者。