DataWorld-35B-A3B
Zhanli-Li · 工具包
用多轮智能体强化学习在 DataWorld 任务上调优的 Qwen3.6-35B-A3B 模型,面向会调用工具的智能体。适合部署大型混合专家模型的团队。
Zhanli-Li · 工具包
用多轮智能体强化学习在 DataWorld 任务上调优的 Qwen3.6-35B-A3B 模型,面向会调用工具的智能体。适合部署大型混合专家模型的团队。
ukisai · 工具包
以 llama.cpp 用的 GGUF 量化版本运行 Swift 1.5 Ornith 9B,这是一个调校成用更少 token 思考的推理模型。适合在自己机器上运行 9B 推理模型的人。
empero-ai · 工具包
逐步推理数学、代码和一般问题,每个回答都以思考块开头。这是用更大的 Qwen3.8 教师模型的轨迹训练出的 9B Qwen3.5 模型,适合单张 GPU 使用。
ornith-ai · 工具包
能写代码、处理终端智能体任务,是每个 token 约用 3B 参数的混合专家模型,这里是 NVFP4 版本。适合想在自己硬件上部署编程模型的开发者。
AtomicChat · 工具包
Ornith 1.5 9B 的 GGUF 版本,这是一个能读图像和文字的模型,文件大小从 2.81 GB 到 17.9 GB,另有视觉投影文件。选一个适合你显存的文件,在本地运行。
prithivMLmods · 工具包
用早期预览版 Qwen3.5-4B 微调模型的 GGUF 副本写代码,并生成自包含的 Three.js 交互 3D 场景页面。适合在本地做 3D 场景原型的开发者。
JMNI-Labs · 工具包
用压缩的 TrellisMX 包,在两台 NVIDIA DGX Spark 上提供带兼容 OpenAI API 的 DeepSeek V4.1 Flash 服务。适合在自己的 Spark 硬件上运行大模型的团队。
dBenf · 工具包
回答关于卫星图像块的类型化问题,使用 Sentinel-2 的全部 12 个波段,为每个选项返回概率,不生成文字。这是 Qwen3.5-0.8B 的微调版本,适合地球观测研究者。
Waqf-AI · 工具包
读取图片中的阿拉伯语手写文字并以文本形式返回。这是微调过的 PaddleOCR-VL 模型,适合要把阿拉伯语手写内容数字化的人。
unsloth · 工具包
在 NVIDIA 显卡上用 vLLM 运行 Unsloth 制作的快速 NVFP4 版 Qwen3.6 35B A3B。卡片说它的吞吐量是其他 NVFP4 版本的 1.79 倍,并且能放进 32 GB 显卡。
unsloth · 工具包
在本地处理智能体编码和图文任务,是 Unsloth 提供的 Qwen3.6-27B 的 GGUF 文件,支持思考保留和长上下文。适合运行本地编码智能体的开发者。
unsloth · 工具包
Unsloth 制作的带多 token 预测的 Qwen3.5-4B 的 GGUF 文件,让 llama.cpp 使用推测解码,生成速度约快 1.5 到 2 倍。适合在本地运行小型多模态模型的人。
unsloth · 工具包
用 Google 的 Gemma 3 27B 指令微调模型回答关于文本和图像的问题,提供 Unsloth 制作的 GGUF 文件,可在你自己的电脑上运行。支持 128K 词元上下文。
unsloth · 工具包
用 Google Gemma 3 12B 指令模型的 GGUF 文件回答问题、总结文本并读图,适合想在自己电脑上运行它的人。
torchcast-ai · 工具包
基于 Qwen3.5-4B 的 4B 决策模型,一次推理就返回是非概率、选项分布和分数分布,不生成文本。适合英文分类、路由和评分标准检查。
Tongyi-MAI · 工具包
读取截图和指令,决定在手机或电脑屏幕上点哪里、输入什么。它是 MAI-UI 图形界面智能体家族里的 8B 模型,面向构建设备智能体的开发者。
Sherlock-Comms · 工具包
通过 vLLM 和 DFlash2 推测解码来运行 122B 的 Ornith 1.5 模型,输出头保持未量化。适合有 128 GB 内存的 RTX Spark 笔记本。
RX5950XT · 工具包
Unlimited-OCR-2 文档 OCR 模型的 GGUF 文件,提供 BF16、Q8_0 和 Q4_K_M,并附视觉投影器。只能在应用了仓库补丁的 llama.cpp 里运行,适合在本地读取扫描和多页文档的人。
ReadyArt · 工具包
ReadyArt 的 31.3B 参数文本生成模型,基于 Google 的 gemma-4-31b-it,以 Safetensors 存放。页面没有说明用途,适合想研究 Gemma 4 变体的人。
rapid-mlx · 工具包
一个压缩到每个权重 3.5 位的 27B 视觉语言模型,适用于 24 GB 内存的 Apple Silicon Mac,通过 Rapid-MLX 在本地提供服务。适合想要本地模型和智能体后端的 Mac 用户和开发者。
RadixArk · 工具包
Qwen3.8-27B 的预量化 NVFP4 版本,能读取文字、图片和视频并用文字回答,通过 SGLang 在 NVIDIA Blackwell 显卡上提供服务。适合在该硬件上运行智能体、聊天机器人和 RAG 的开发者。
Qwen · 工具包
这个模型同时读图像和文字并用文字回答,是总参数 122B、激活参数 10B 的混合专家模型。适合有大型 GPU 服务器、想用开源视觉语言模型做推理、编程和智能体的团队。
Qwen · 工具包
名为 Q-Judger 的评审模型,对照提示词给 AI 生成的图像打分,涵盖五组标准,并以 JSON 回复。适合测试文生图模型的人。
Qwen · 工具包
基于 Qwen3.5-4B 的驾驶模型,能做 3D 感知、回答道路场景问题并规划车辆未来路径。适合研究自动驾驶的研究者。
QUASAR-QAT · 工具包
以 4-bit NVFP4 运行 Qwen3.8-27B,仅 19.7 GB,用 QUASAR 方法训练,使它接近完整的 BF16 模型。适合在 NVIDIA Blackwell GPU 上用 vLLM 部署的人。
openbmb · 工具包
把中英文文档(包括 PDF)解析成文本、表格和公式,提供给 llama.cpp 使用的 GGUF 文件。适合在自己机器上运行 MiniCPM-OCR 1.0 的人。
openbmb · 工具包
通过起草 token、再让主模型一次性验证,加快 MiniCPM-OCR 1.0 的解码。它是草稿头,不是独立的 OCR 模型,适合自己部署文档解析的人。
nvidia · 工具包
读取文本和图像并输出文本,是 NVIDIA 制作的 DeepSeek-V4.1-Flash 的 NVFP4 精简版本。适合在 NVIDIA Blackwell GPU 上部署智能体、聊天机器人和检索系统的开发者。
numind · 工具包
以文本或图像读取文档,按你要的字段填写 JSON 模板,或把页面转成 Markdown。这是一个 4B 模型,适合处理扫描件、表单和发票的团队。
mlx-community · 工具包
Qwen3.6-35B-A3B 的 4-bit MLX 转换版,可在 Apple Silicon Mac 上回答文本和图片提示词。适合想用 mlx-vlm 在本地运行这个 Qwen 模型的人。
mlx-community · 工具包
DeepSeek-V4.1-Flash-1017 的混合精度 MLX 版本,把 Engram 表保留为 FP8。适合拥有数百 GB 内存、想用 MLX 工具运行该模型的人。
microsoft · 工具包
把图片和一条简短的任务提示词配对,就能给图片写说明、找出物体、读出图中文字。适合用 transformers 在 Python 里跑视觉任务的开发者和研究人员。
Mia-AiLab · 工具包
为 TensorFold 准备的 GLM-5.3-Flash 4 位 EXL3 量化版,在大小相同的情况下 KL 散度低于流行的 TR3-4bpw 量化版。适合在 DGX Spark 机器上部署大模型的人。
meta-models · 工具包
一个 300 亿参数智能体模型的 GGUF 版本,供 llama.cpp 使用,附带可选的图像编码器和推测解码草稿模型。适合在 24 GB 显卡上本地运行模型的人。
lordx64 · 工具包
回答前会在明确的思考块里推理,用约 8k 条 Claude Opus 4.7 的推理轨迹调优。这是 35B 混合专家的 Qwen3.6 变体,适合困难的数学、科学、代码和规划。
local-inference-lab · 工具包
为四卡 GPU 服务准备的 DeepSeek V4.1 Flash 1017 签名 Flare 运行时包,支持文本和图片,提供兼容 OpenAI 的 API。适合在自有 NVIDIA 硬件上运行大模型的人。
lmstudio-community · 工具包
在 Apple Silicon Mac 上运行 8 位 MLX 版本的 27B 图文模型,适合想在本地回答图片问题的人。
Jundot · 工具包
把 Qwen3.8-27B 做成 8 位混合精度的 MLX 检查点,带视觉编码器和 MTP 头,用于苹果硬件上的图文聊天。适合想在本地得到接近完整质量的人。
Jundot · 工具包
在 MLX 上以约 17.5 GB 运行 27B 的 Qwen3.8 视觉语言模型,能读取文字、图片和视频,上下文为 262,144 个 token。这是 Jundot 的混合精度量化版本,适合内存有限的人。
Jundot · 工具包
zai-org 的 GLM-5.3-Flash 多模态混合专家模型的混合精度 MLX 副本,约每个权重 4.6 位,包含视觉编码器和多词元预测头。
Jackrong · 工具包
为长时间的智能体任务缩短推理时间、降低成本,是 Qwen3.8-27B 微调模型的 GGUF 版本。适合在自己机器上跑智能体循环、想让每一轮更快的人。
以 MLX 格式、6 位运行一个只有 0.8B 的推理调优聊天小模型,转换自 Jackrong 的 Qwen3.5 蒸馏模型。适合想在 Mac 上用一个很小本地模型的人。
IteraCompute · 工具包
用 vLLM 在一块 RTX 5090 上以 NVFP4 运行 Qwen3.8-27B,带校验和验证的下载、FP8 KV 缓存、工具调用和推理支持。适合在 Blackwell GPU 上自托管大模型的开发者。
ISTA-DASLab · 工具包
用 GSQ(Gumbel-Softmax 量化)制作的 Qwen3.6-35B-A3B 的 2 位量化副本,用小得多的内存保留大部分推理和编程能力。需配合打过补丁的 vLLM 使用。
InternScience · 工具包
作为一个 35B 开放权重语言模型,负责多步骤智能体工作:规划、搜索、调用工具和科学推理。适合要把模型接入会调用工具的智能体的开发者。
ibm-granite · 工具包
把文档页面图像转换成结构化文本,支持公式、版面和关于页面元素的提问,是 IBM Research 的 258M 模型。适合用 Docling 构建文档转换的人。
HuggingFaceTB · 工具包
同时回答关于视频、图像和文字的问题,用一个 2.2B 模型,视频推理约需 5.2 GB GPU 显存。适合构建设备端视觉助手的开发者。
h2oai · 工具包
回答关于文档、工单、政策或对话及其配图的类型化决策问题,并给每个选项一个概率。适合想用小模型来判断记录的团队。
gordonhu · 工具包
一个 320B 的混合专家智能体模型,只用一个 bash 工具完成较长的终端任务。用 1,170 个环境做强化学习训练,面向研究者,采用非商业许可。
google · 工具包
把 Google 的 Gemma 4 31B 指令微调模型做成 4-bit GGUF 文件来运行,能读取文字和图片并用文字回答。适合有消费级显卡或工作站的开发者和爱好者。
ggml-org · 工具包
Cloudflare 的 Clef 决策模型的 GGUF 文件,支持图像和文本输入。用 llama.cpp 工具提供服务,通过决策 API 路径调用。适合在自己机器上运行它的开发者。
Egzakta · 工具包
在 vLLM 上运行 FP8 格式的 27B 图文模型。和同规模的 Qwen 模型相比,它推理时用的词元少得多。适合自己托管模型的人。
Egzakta · 工具包
能处理图像和文字,推理时用的思考 token 比基座 Qwen3.8-27B 更少,据模型卡称,在相近的准确率下回答时间约减半。另有 FP8 和 GGUF 版本。
ebinan92 · 工具包
从图片中读取乌克兰语手写文档,找出每个文字区域、标注类型,并以结构化 JSON 返回转写内容。这是用于手写数字化的开放 4B 视觉语言模型。
datalab-to · 工具包
用 689M 参数的模型读取文档图像中的文字,还能找出文本行、版面块和阅读顺序。适合把扫描件和照片变成文字和 HTML 表格的开发者。
datalab-to · 工具包
从 PDF 和图像中提取结构化数据。你提供一个 JSON 模式,它返回与之匹配的对象。这是 Datalab 的 9.7B 视觉语言模型,适合处理文档的开发者。
byteshape · 工具包
Qwen3.5-9B 的 GGUF 副本,这个模型能读文字和图像,用 ByteShape 的 ShapeLearn 压缩,面向 llama.cpp。有 GPU 和 CPU 的版本,大小约从 3 GB 到 5.7 GB。
ByteDance · 工具包
读取文档页面图像,按阅读顺序分两个阶段提取其中的文字、表格、公式和图表。一个紧凑的 398M 模型,适用于中文和英文文档。
ByteDance-Seed · 工具包
一个开放的多模态智能体模型,能读屏幕截图并决定在应用、浏览器、手机和游戏中做什么。适合构建电脑操作和图形界面自动化智能体的开发者。
bartowski · 工具包
Qwen3.5-4B 的 imatrix GGUF 量化版本,这是一个带 MTP 层的 4.3B 图文模型,4 位文件约 3 GB。适合在本地运行小模型的人。
bartowski · 工具包
Google Gemma 4 31B 指令模型的量化 GGUF 文件,大小从 17.15 GB 到 61.41 GB,由 bartowski 用重要性矩阵制作。可读取图像和文字。可在 llama.cpp、LM Studio 等工具里运行。
bartowski · 工具包
Cloudflare 的 clef 决策模型的静态 GGUF 量化版本,它不写文字,而是一次性为关于某个状态的类型化问题的每个选项打分。适合用 llama.cpp 运行它的开发者。
baidu · 工具包
读取图像和文字并进行推理,29.7B 参数中同一时间约有 3B 处于激活状态。涵盖读图表、根据照片解 STEM 题、视觉定位和放大图像。Apache 2.0。
ATH-MaaS · 工具包
文档解析模型:读取一页图像,按阅读顺序输出 Markdown,涵盖文字、公式和表格。约 0.8B 参数,通过 vLLM 运行。适合做文档数字化的开发者。
amd · 工具包
把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本,通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。
datalab-to · 工具包
从文档图像里读取文字、表格和版面,并以文字返回。这是 Surya 2.5 OCR 模型面向 llama.cpp 的 GGUF 版本,适合想在自己电脑上运行文档 OCR 的人。
unsloth · 工具包
在你自己的机器上读取文字和图片、编写代码并调用工具,使用 Unsloth 刷新后的 Qwen3.5 35B-A3B 视觉语言模型 GGUF 文件。适合运行本地智能体的开发者。
opendatalab · 工具包
读取文档页面图像并返回文字,是一个 1.2B 参数、为中英文文档解析打造的模型。适合把扫描页变成可用文字的团队。
allenai · 工具包
回答关于图片、视频以及多张图片的问题,还能指出它找到的东西。适合想要开源 8B 视觉语言模型来做视频问答、计数和描述的开发者。
AhmedReda25300 · 工具包
根据一段简短的阿拉伯语情境、一个问题和可选选项,挑出最合适的答案标签。适合用 0.8B 级小模型处理阿拉伯语路由或判断任务的开发者。
agentionai · 工具包
把 Qwen3.8-27B 打包成适用于 llama.cpp 的 GGUF 文件,有八种大小,从 8.95 到 16.35 GiB,另附视觉投影器。作者称在每个大小上,它与 BF16 模型的偏离都比其他量化版本小。
Accio-Lab · 工具包
Accio-Lab 推出的开放 35B 图文模型,基于 Qwen3.6-35B-A3B,提供 BF16、GGUF、FP8、NVFP4 和 MLX 格式。适合部署大模型的团队。
abacusai · 工具包
针对音频、图像或文本的提问,一次前向传播就给出每个选项的概率,不生成文字。这是从 Gemma 4 E4B-it 微调而来的 4B 决策模型。
0xSero · 工具包
在一台 DGX Spark 上以 256k 词元的上下文和图像输入运行 GLM-5.3-Flash,使用每权重约 2.31 位的混合 EXL3 版本。适合在单台小型机器上托管大模型、看重质量而不是速度的人。
JuneoAI · 工具包
通过一次推理给候选选项打分,帮助组织决定谁来做任务、谁能看到信息、运行什么以及接受什么。这是基于 Qwen3.8-27B 的 27.4B 模型,权重以 Apache-2.0 开放。
ZelligeAI · 工具包
用一个会以压缩的中英文速记思考的 27B 模型运行编码智能体循环,每轮花更少的思考词元。适合自己托管大模型的开发者。
unsloth · 工具包
用 Qwen3.6 27B 写代码和推理,提供 Unsloth 制作的、带多词元预测的 GGUF 文件,卡片说回复能快约 1.5 到 2 倍,且不损失准确度。为编程智能体而做。
unsloth · 工具包
在 llama.cpp 里运行小型的 Qwen3.5 0.8B 视觉语言模型,借助多 token 预测加快生成,使用 Unsloth 的 GGUF 文件。适合测试推测解码的开发者。
unsloth · 工具包
在本地运行一个能读文字和图片、调用工具并在调用失败后重试的 30B 智能体模型,使用 Unsloth 的 GGUF 文件。适合在消费级硬件上构建本地智能体的开发者。
unsloth · 工具包
用 Unsloth 的 4 比特 QAT GGUF 文件运行 Google 的 Gemma 4 31B 指令模型,自带用于推测解码的草稿模型,可在 llama.cpp 中加速。适合在本地部署大型多模态模型的人。
THUSI-Lab · 工具包
基于 Qwen3.5-0.8B 的小型视觉语言模型,来自一个面向多种虚拟游戏世界中具身智能体的持续预训练研究项目。适合研究游戏智能体的研究者。
Qwen · 工具包
一个视觉语言模型,能把图片、文档和视频与文字问题一起理解并用文字回答。适合围绕图表、扫描件、屏幕和视频片段开发应用的开发者。
prithivMLmods · 工具包
提供 Xiaomi-OCR-0 的 GGUF 文件,这是一个用来读取文档和图片文字的 0.8B 紧凑视觉语言模型,大小从约 466 MB 到 1.52 GB。适合配合 llama.cpp 做本地 OCR。
Poindexter-Labs · 工具包
根据自然语言背景给出结构化决策:从选项中选一个、判断一个是非命题,或按评分标准给一项内容打分。适合构建智能体路由和分类的开发者。
openbmb · 工具包
通过 llama.cpp 运行 1B 视觉语言模型,回答关于图片的文字提示词。提供多种量化大小的 GGUF 文件,适合想要小型本地模型的开发者和爱好者。
openbmb · 工具包
为文本、公式和表格区域的 OCR 结果打 0 到 1 之间的质量分,提供给 llama.cpp 使用的 GGUF 文件。适合在自己机器上检查 OCR 结果的人。
OmniJev · 工具包
读取截图、照片、视频或文字和几个带类型的问题,一次运行就给每个答案选项打出概率。适合开发会看屏幕的智能体的人。
OmniJev · 工具包
读取截图、照片、视频或文字,再结合你输入的问题,为每个答案选项给出概率,比如智能体下一步该做什么、任务是否完成。
OmniJev · 工具包
针对截图、照片、视频或文字,回答你提的问题,并给出每个选项的概率。适合需要在智能体循环里快速做决定的开发者。
omlab · 工具包
通过在候选区域中选择来找到并指出图像中的物体,目标不存在时回答 None。适合无人机、机器人和监控摄像头的视觉工作。
nvidia · 工具包
读取胸部和腹部 CT 体数据,撰写结构化放射报告、回答问题并说明推理过程。适合做 CT 图像分析的研究人员和开发者。
NotCherry · 工具包
把 Qwen3.5-0.8B weight-space-programming 模型打包成适用于 llama.cpp 的 GGUF 文件,包括 4 位文本模型和用于图像输入的独立视觉投影文件。
MultiverseComputingCAI · 工具包
Multiverse Computing 的 61.1B 多模态模型,是 NVIDIA Nemotron 3.5 Super 的压缩版本,接收文本、图像和视频,并保持约 12B 参数被激活。适合想用更少 GPU 通过 vLLM 部署大型开放模型的团队。
mlx-community · 工具包
Qwen3.6-35B-A3B 的 8 位 MLX 转换版,能读文字和图像并用文字回答,用 mlx-vlm 工具运行。适合想在本地运行大型视觉语言模型的开发者。
migtissera · 工具包
Tess-4.5 的 GGUF 版本,这是一个 27B 开放权重的编程和智能体模型,供 llama.cpp 使用,带视觉投影器和可选的草稿头来加快生成。适合在本地运行模型的人。
microsoft · 工具包
Microsoft Research 推出的计算机使用智能体模型,读取浏览器截图并决定下一步点击、输入或滚动,来完成网页任务。适合构建浏览器智能体的开发者和研究者。
Mia-AiLab · 工具包
GLM-5.3-Flash 的 EXL3 量化版,156 GB,路由专家更窄,比同一实验室的 4 位版本小约 11%。适合在本地 GPU 上运行大模型的人。
meituan-longcat · 工具包
面向长链条智能体任务的多模态混合专家模型,用于代码库开发、完整项目构建和创意设计,此为压缩的 W4A4 版本。适合拥有大型 GPU 算力的团队。
Kwaipilot · 工具包
Kwaipilot 的开放权重编程模型,混合专家结构,总参数 35B,激活 3B,针对智能体编程做了调优,工具调用出错更少。可用于 transformers、vLLM 和 SGLang。
khazarai · 工具包
在提出修复方案前先检查真实文件,来调试和评审代码。这是 Qwen3.8-27B 的微调版,用 195M 词元的推理轨迹训练。适合构建编程智能体的开发者。