来自 Hugging Face 的 AI 项目

OneJev1.6-27B

OmniJev · 工具包

读取截图、照片、视频或文字，再结合你输入的问题，为每个答案选项给出概率，比如智能体下一步该做什么、任务是否完成。

OneJev1.6-0.8B

OmniJev · 工具包

针对截图、照片、视频或文字，回答你提的问题，并给出每个选项的概率。适合需要在智能体循环里快速做决定的开发者。

VLX-Seek-1.5-10B

omlab · 工具包

通过在候选区域中选择来找到并指出图像中的物体，目标不存在时回答 None。适合无人机、机器人和监控摄像头的视觉工作。

NV-Reason-CT

nvidia · 工具包

读取胸部和腹部 CT 体数据，撰写结构化放射报告、回答问题并说明推理过程。适合做 CT 图像分析的研究人员和开发者。

NousCoder-14B

NousResearch · 工具包

为竞赛编程题写代码的模型，在 Qwen3-14B 基础上用强化学习继续训练，训练题共 24k 道，答案都可以检验。适合想在自己电脑上运行代码模型的开发者。

Qwen3.5-0.8B-weight-space-programming-GGUF

NotCherry · 工具包

把 Qwen3.5-0.8B weight-space-programming 模型打包成适用于 llama.cpp 的 GGUF 文件，包括 4 位文本模型和用于图像输入的独立视觉投影文件。

Comet 60B

MultiverseComputingCAI · 工具包

Multiverse Computing 的 61.1B 多模态模型，是 NVIDIA Nemotron 3.5 Super 的压缩版本，接收文本、图像和视频，并保持约 12B 参数被激活。适合想用更少 GPU 通过 vLLM 部署大型开放模型的团队。

Morphy1.1-Coder-Beta-7B-GGUF

moolvylabs · 工具包

moolvylabs 的 7.6B 编程模型，提供 GGUF 形式，作为测试版发布并征求反馈。卡片很简短，目前没有运行步骤、基准或训练细节。

Qwen3.6-35B-A3B-8bit (MLX)

mlx-community · 工具包

Qwen3.6-35B-A3B 的 8 位 MLX 转换版，能读文字和图像并用文字回答，用 mlx-vlm 工具运行。适合想在本地运行大型视觉语言模型的开发者。

Qwen3.5-9B-OptiQ-4bit

mlx-community · 工具包

Qwen3.5-9B 的 4-bit 混合精度 MLX 版本，用于在 Apple Silicon 上本地生成文本，自带多词元预测头。适合在 Mac 上本地运行模型的人。

Tess-4.5-27B GGUF

migtissera · 工具包

Tess-4.5 的 GGUF 版本，这是一个 27B 开放权重的编程和智能体模型，供 llama.cpp 使用，带视觉投影器和可选的草稿头来加快生成。适合在本地运行模型的人。

GLM-5.3-Flash EXL3 3.5bpw

Mia-AiLab · 工具包

GLM-5.3-Flash 的 EXL3 量化版，156 GB，路由专家更窄，比同一实验室的 4 位版本小约 11%。适合在本地 GPU 上运行大模型的人。

LongCat-Flash-Lite-Sparse

meituan-longcat · 工具包

总参数 69B、每个 token 约激活 3B 的混合专家文本模型，采用稀疏注意力，支持 100 万 token 上下文。适合为编程和工具使用智能体托管长上下文模型的团队。

LongCat-2.5-W4A4

meituan-longcat · 工具包

面向长链条智能体任务的多模态混合专家模型，用于代码库开发、完整项目构建和创意设计，此为压缩的 W4A4 版本。适合拥有大型 GPU 算力的团队。

Temper-2-Nodel

maylore-ai · 工具包

42 亿参数的 Rust 编程模型，基于 Qwen3.5-4B，能回答俄语和英语请求。适合想用小型模型处理函数、trait、泛型和线程的 Rust 开发者。

SpatialLM1.1-Qwen-0.5B

manycore-research · 工具包

读取 3D 点云并写出结构化的场景布局，包含墙、门、窗和带标签的物体框。适合从事机器人、导航和 3D 场景理解的研究人员和开发者。

llm-jp-4.1-33b-thinking

llm-jp · 工具包

LLM-jp 项目推出的 33.2B 参数英日双语文本生成模型。经过 SFT 和 DPO 后训练，上下文 65,536 词元，权重采用 Apache 2.0，可通过 transformers 加载。

KAT-Coder-V2.5-Dev

Kwaipilot · 工具包

Kwaipilot 的开放权重编程模型，混合专家结构，总参数 35B，激活 3B，针对智能体编程做了调优，工具调用出错更少。可用于 transformers、vLLM 和 SGLang。

Qwen3.8-27B-Fable-5-Coding-Distilled

khazarai · 工具包

在提出修复方案前先检查真实文件，来调试和评审代码。这是 Qwen3.8-27B 的微调版，用 195M 词元的推理轨迹训练。适合构建编程智能体的开发者。

Slonik-27B-oQ8-mtp

kakoka · 工具包

用一个 27B 编码模型帮你编写和修改 PostgreSQL 源代码，8 位量化，可通过 oMLX 在 Apple Silicon Mac 上本地运行。适合想要本地助手的 PostgreSQL 开发者。

Qwen3.8-27B-SLQ-GGUF

kaitchup · 工具包

用自定义的统计无损量化，把 Qwen3.8-27B 压成三个体积和保真度各不相同的 GGUF 文件。适合在 llama.cpp 里本地运行这个模型的人。

Qwen3.8-27B-oQ6e-mtp

Jundot · 工具包

Qwen3.8-27B 的混合精度 MLX 副本，约每个权重 6.9 位，包含视觉编码器和多词元预测头，可在 Apple 芯片上本地运行。

Qwen3.6-35B-A3B-oQ6e-mtp

Jundot · 工具包

Qwen3.6-35B-A3B 的混合精度 MLX 副本，约每个权重 6.8 位，包含视觉编码器和多词元预测头，可在 Apple 芯片上本地运行。

gemma-4-E4B-it-weight-space-programming

jstarks · 工具包

对 Google 的 Gemma 4 E4B-it 直接修改 0.002% 的权重、不做训练，用来解决思考模式下工具调用和多步数学的卡顿。也提供一个小型补丁文件。

Spark-X2.6-4B-AgentFast

JamieBradfield · 工具包

几乎没有思考延迟地调用工具并遵循指令，是 Spark-X2.6-4B 的 4.1B 微调模型。适合构建需要快速、直接调用工具的本地智能体的人。

Qwopus3.8-27B-Flash-V2-GGUF

Jackrong · 工具包

减少长时间智能体任务里被浪费的推理，是 Qwen3.8-27B 第二版 Flash 微调模型的 GGUF 版本，Python 格式更好。适合在本地跑智能体循环的人。

Qwopus3.8-27B-Coder-Flash

Jackrong · 工具包

写代码、调用工具，作为编码智能体处理软件任务。这是 Jackrong 基于 Qwen3.8-27B 的 27.8B 微调模型，用约 200,000 条代码和推理样例训练，适合有强力 GPU 的开发者。

Ling-3.0-tiny-GGUF

inclusionAI · 工具包

inclusionAI 的 Ling-3.0-tiny 的 GGUF 副本。这是一个小型混合专家推理模型，总参数 7.9B，激活参数 1.3B，适合低成本本地运行。

K2-Horizon-7B-GGUF

IFM · 工具包

IFM 的 K2-Horizon-7B 文本模型的量化 GGUF 副本，可在 llama.cpp 中本地运行，从 BF16 到 4 位都有，上下文窗口为 512K 词元。

granite-4.2-3b

ibm-granite · 工具包

回答前先一步步推理，在 IBM 的紧凑 3B 模型中提供工具调用、代码生成和多语言对话。原生支持 128K 上下文，采用 Apache 2.0 开源。

SmolLM2-360M-Instruct

HuggingFaceTB · 工具包

用一个 3.62 亿参数、在普通硬件上就能运行的指令微调模型回答聊天式问题，也能做改写和摘要。适合想要比 135M 更有余量的小型聊天模型的开发者。

Carbon-X

HuggingFaceBio · 工具包

在聊天里读取原始 DNA 并用英文回答，判断变异看起来是良性还是致病，适合想在自己 GPU 上运行 DNA 语言模型的研究人员。

Crystal-31B-RL

hiwaifu-research · 工具包

从 Gemma 4 31B-IT 后训练而来的角色扮演聊天模型，用用户的语言回复，无论是俄语、西班牙语、英语还是葡萄牙语，并一直保持这种语言。可处理图像和文字。

Holo4-27B

Hcompany · 工具包

查看截图并决定下一步的点击、按键、代码运行或工具调用，基于 Qwen3.8-27B。这是面向网页、桌面和手机智能体的电脑操作模型，采用非商业许可。

Qwen3-Reranker-0.6B-Q8_0-GGUF

ggml-org · 工具包

按与查询的相关度给段落排序，是 Qwen3 0.6B 重排序模型的 8-bit GGUF 副本，用 llama.cpp 制作。适合想要小型本地重排序模型来做搜索的开发者。

Kev-4B

ggml-org · 工具包

通过 llama 服务的 /v1/systemone API 做决策，来自一个 4.2B 模型的 GGUF 副本。适合想要小型本地决策模型的开发者。

gemma-4-E4B-it-GGUF

ggml-org · 工具包

Google gemma-4-E4B-it 的 GGUF 格式副本，可以用 Llama 应用或 llama serve 命令在你自己的电脑上运行，适合想在本地运行 Gemma 的人。

gemma-4-12B-it GGUF

ggml-org · 工具包

通过 Llama 应用或 llama 命令，在你自己的电脑上运行 Google 的 gemma-4-12B-it，文件是 ggml-org 自动转换的 GGUF。适合在本地运行模型的人。

DeepSeek-V4.1-Flash-1017 GGUF

ggml-org · 工具包

DeepSeek 的 748B 模型 V4.1 Flash 1017 的 GGUF 文件，由 ggml-org 转换并附带处理图片的视觉文件，适合有大内存机器、通过 llama.cpp 工具运行模型的人。

POCKET-35B-GGUF

FINAL-Bench · 工具包

用 llama.cpp 从 GGUF 文件在你自己的电脑上运行针对韩语调优的 35B 模型，有纯 CPU 路径，不需要 GPU。适合想在本地使用语言模型的人。

MedErtas v0.1 31B LS

ErtasAI · 工具包

在 vLLM 和 NVIDIA Blackwell GPU 上运行面向医疗领域的语言模型，它是压缩后的 Gemma 4 31B。适合需要在考题、编码和答案核查任务上又快又省的医疗 AI 产品。

KVARK Sparkle 1.1 27B GGUF

Egzakta · 工具包

用多种大小的 GGUF 文件运行 27B 的 KVARK Sparkle 1.1 模型，可选图像输入和推测解码。适合用 llama.cpp、Ollama 或 LM Studio 在本地跑模型的人。

KVARK Sparkle 1.1 (27B)

Egzakta · 工具包

一个专门做文档工作的 27B 模型：它会搜索文档库，根据找到的内容回答，找不到答案时会明说，适合做文档和搜索智能体的开发者。

Kvark-Sparkle-1.0-27B-GGUF

Egzakta · 工具包

KVARK Sparkle 1.0 这个 27B 视觉语言模型的 GGUF 文件，适用于 llama.cpp、Ollama 和 LM Studio，保留了推测解码头。适合在本地运行大模型的人。

Qwen3.5-4B-SFT-decompiler-O0-full

Divij · 工具包

把反编译器的输出改写成可读的 C 源码，带有有意义的名称和正确的类型。这是在未优化二进制上训练的 Qwen3.5-4B 微调模型，适合安全研究者和逆向工程师。

Qwenputer-npu

divagr1925 · 工具包

一个把小型 RISC-V 计算机内置在权重里的 Qwen3.5-4B 模型，用于精确算术和运行一个微型故事模型。这是给研究 transformer 内部程序的研究者做的实验。

Qwen3.5-4B Qwenputer Filesystem

divagr1925 · 工具包

一个实验性的 Qwen3.5-4B，把 RISC-V CPU 和一个小型文件系统编译进了权重，所以它不用外部工具就能跨会话记住事实。检查点能放进 24 GB 的 GPU。

Hydrogen-1.0 NVFP4

deep-principle · 工具包

Hydrogen-1.0 的 4-bit NVFP4 版本，这是 Deep Principle 的 381B 科学与研究助手模型，基于 GLM-5.3。需要多 GPU 的 NVIDIA Blackwell 服务器，上下文为 1M 词元。

Hydrogen-1.0-MXFP4

deep-principle · 工具包

Deep Principle 的 384B 科学助手 Hydrogen-1.0 的 MXFP4 量化版本，面向 AMD Instinct 硬件。适合想用文本模型处理科学问题和研究规划的实验室。

Qwen3.8 Flash Next Turbo Brilliance 50x GGUF

DavidAU · 工具包

DavidAU 制作的 Qwen3.8-Flash-Next 的 GGUF 版本，有 27 种推理模式、27 种指令模式和 15 个可在提示词里切换的 AI 角色。适合有大显卡或大内存的人。

Qwen3.8-27B-AWQ-INT4

cyankiwi · 工具包

cyankiwi 制作的 Qwen3.8-27B 4-bit AWQ 量化版本，一个带思考控制的 27B 视觉语言模型。权重为 21.02 GB，可在 Transformers、vLLM 或 SGLang 中加载。

Qwen3.6-35B-A3B MTP GGUF

byteshape · 工具包

用带多词元预测的 GGUF 量化版本运行 Qwen3.6-35B-A3B，在 llama.cpp 里让 GPU 解码更快。由 ByteShape 制作，适合在显卡上运行本地模型的人。

Nimble-v4-max

bespokelabs · 工具包

传入上下文和带类型的问题（选择题、是非题或有序评分），为每个答案选项给出概率。这是 Qwen3.8-27B 的微调版本，适合构建分类器和决策步骤的开发者。

NorthCUA-Nano

beipo-ai · 工具包

用基于 Qwen3.5 的 9B 稠密电脑操作模型，通过截图操作桌面和浏览器应用。适合用官方 NorthCUA 运行框架构建电脑操作智能体的开发者。

Meta-Llama-3.1-8B-Instruct-GGUF

bartowski · 工具包

Meta Llama 3.1 8B Instruct 的量化 GGUF 文件，用于本地聊天，例如 Q4_K_M 为 4.92 GB，Q8_0 为 8.54 GB。由 bartowski 用重要性矩阵制作。涵盖 8 种语言，可在 LM Studio 中运行。

Llama-3.2-3B-Instruct-GGUF

bartowski · 工具包

bartowski 用重要性矩阵为 Meta 的 Llama-3.2-3B-Instruct 制作的 GGUF 量化版本，大小约从 1.8 GB 到 6.4 GB。适合用 llama.cpp 或 LM Studio 在本地运行小型聊天模型。

KAT-Coder-V2.5-Dev GGUF

bartowski · 工具包

Kwaipilot 的 KAT-Coder-V2.5-Dev 的 imatrix GGUF 量化版本，这是一个 34.7B 文本模型，4 位文件约 19 GB 起。适合在本地运行名字里带 Coder 的大模型的人。

Molmo2-4B

allenai · 工具包

回答关于图片、视频和多张图片的问题，还能指出它找到的内容。这是 Ai2 的开源视觉语言模型，适合自己运行模型的开发者和研究者。

Signal 3.8 27B

agentionai · 工具包

比 Qwen3.8-27B 回答更简短直接，使用更少的回答和思考 token，因此回复结束得更早。这是一次轻量微调，可以直接用在与基础模型相同的工具里。

Smaug Humanizer

abacusai · 工具包

把 AI 写的文本改写成人类口吻，同时保留事实、数字、名称和排版。这是 Abacus.AI 基于 Gemma 4 微调的 12B 模型，适合写作者和编辑。

GLM-5.3-Flash-BF16

zai-org · 工具包

一个 320B 参数、激活 18B 的多模态模型，能读文字和图像，思考预算可调，用混合注意力设计处理长上下文。适合有像样 GPU 基础设施的团队。

GLM-5.2

zai-org · 工具包

zai-org 推出的 753B 参数开放文本模型，适合编程和智能体这类长链条多步工作，有 1M 词元上下文，采用 MIT 许可证。适合拥有大型 GPU 集群的团队。

Forge-1-Gemma-4-E2B

YoSaNoo · 工具包

一个从 Google 的 gemma-4-E2B 微调而来的小型文本模型，偏向写代码，以 GGUF 文件发布，可在 Ollama、LM Studio、Unsloth 或 Jan 中在自己的笔记本上运行。

Spark-X2.6-1.7B-DSpark-GGUF

XHToken · 工具包

一个小型草稿模型，通过推测解码加速 Spark-X2.6-1.7B，每步最多猜 7 个 token。适合在支持它的 llama.cpp 构建上本地运行该模型的人。

Llama-3.2-1B-Instruct-GGUF

unsloth · 工具包

在笔记本上聊天、总结和回答文字问题，是 Unsloth 提供的 Meta 小型 Llama 3.2 1B Instruct 的 GGUF 副本，精度从 16 比特到 2 比特。适合开发者和学习者。

GLM-4-9B-0414-GGUF

unsloth · 工具包

用 9.4B 的 GLM-4-9B-0414 模型的 GGUF 文件生成中文和英文文本，适合想在自己电脑上运行 GLM 模型的人。

gemma-4-E2B-it-GGUF

unsloth · 工具包

Unsloth 制作的 Google DeepMind Gemma 4 E2B 指令微调模型的 GGUF 文件，接收文本和图像并输出文本，上下文为 128K。适合在笔记本和小型机器上本地运行模型的人。

gemma-3-4b-it-GGUF

unsloth · 工具包

在你自己的电脑上回答关于文字和图片的问题，是 Unsloth 打包的 Google Gemma 3 4B 指令模型的 GGUF 副本。适合想用小型本地模型的开发者和用户。

Inkling-Small-NVFP4

thinkingmachines · 工具包

Inkling-Small 的 NVFP4 版本，一个多模态混合专家模型，接收文本、图像和音频并输出文本。适合构建智能体、编程助手和其他 AI 应用的开发者。

gemma-4-31B-it-scotoma-2-GGUF

ReadyArt · 工具包

这个模型是 ReadyArt 从自家 gemma-4-31B-it-scotoma-2 打包出来的 GGUF 版本，参数量 30.7B，可在本地运行。适合想以 GGUF 形式使用这个模型的人。

Qwen3.5-4B-Base

Qwen · 工具包

这是一个只做过预训练的视觉语言基础模型，用于微调和上下文学习实验，不用于直接聊天。适合想用小型 Qwen3.5 作起点并用 LoRA 适配的开发者。

Qwen3-4B-GGUF

Qwen · 工具包

一个 4B 的 GGUF 聊天模型，可在 llama.cpp 或 ollama 里本地运行，有用于推理的思考模式和用于快速回复的普通模式。适合使用普通电脑的开发者和爱好者。

Qwen3-14B

Qwen · 工具包

这是一个 14.8B 参数的开源模型，难题用思考模式推理，日常聊天用更快的非思考模式回答。适合想用一个模型处理逻辑、代码、智能体和 100 多种语言的开发者。

Qwen2.5-Coder-32B-Instruct

Qwen · 工具包

编写、解释和修复代码，是 Qwen2.5-Coder 系列中最大的指令微调模型，32B 参数。适合想在自己硬件上运行强大开源编程模型的开发者。

Qwen2.5-Coder-14B-Instruct-GGUF

Qwen · 工具包

提供 Qwen2.5-Coder 14B 指令模型的 GGUF 文件，有八种量化大小，可用 llama.cpp 辅助写代码。适合有好 GPU 或大内存机器、想要更强本地代码助手的开发者。

Qwen2.5-Coder-1.5B-Instruct-GGUF

Qwen · 工具包

提供 Qwen2.5-Coder 1.5B 指令模型的 GGUF 文件，有八种量化大小，可用 llama.cpp 在笔记本上辅助写代码。适合想要轻量本地代码助手的开发者。

Ornith-1.5-9B

ornith-ai · 工具包

处理编程和终端任务，是一个适合单张 GPU 的 9B 稠密语言模型。适合想用小型开源模型做软件开发的开发者，另有面向手机的移动版本。

Ornith-1.5-122B-NVFP4

ornith-ai · 工具包

提供 Ornith-1.5-122B 的 NVFP4 量化副本，这是一个面向单 GPU 使用、在编程测试里表现突出的 122B 混合专家文本模型。适合自己托管大模型的开发者。

MiniCPM-V 4.6

openbmb · 工具包

能读懂单张图片、多张图片和视频并用文字回答，参数量 1.3B，适合在手机和其他边缘设备上运行。适合想要小型视觉语言模型的开发者。

Naive-N0.5-Flash

NaiveAI · 工具包

开放权重的混合专家模型，总参数 309B，激活 15.5B，原生 100 万 token 上下文，为编程和 AI 研究而构建。适合在自己服务器上运行大型编程模型的团队。

Qwen3.5-4B-GLB-3D-Coder-GGUF

mradermacher · 工具包

ccore/Qwen3.5-4B-GLB-3D-Coder（一个 4.2B 模型）的静态 GGUF 量化版本，大小从 2.0 GB 到 8.5 GB，另有两个小型多模态补充文件。由 mradermacher 制作。

AREX-2 GGUF

mradermacher · 工具包

BAAI 的 AREX-2（26.9B）的 GGUF 量化文件，从 2 位到 8 位，另有可选的多模态补充文件。适合在本地运行大模型、想挑一个放得进自己内存的尺寸的人。

Mellum2.1-12B-A2.5B-Thinking-GGUF

JetBrains · 工具包

在 llama.cpp、Ollama 或 LM Studio 里本地运行 JetBrains 的 12B 推理模型，有五种 GGUF 大小可选。适合想在自己电脑上用上下文为 131,072 个 token 的思考模型的开发者。

Axion-1.0-35B-APEX-I-MiniPlus-V2.1-GGUF

IsValorum · 工具包

用一个混合精度的压缩 GGUF 文件，在 llama.cpp 里本地运行 35B 的 Axion-1.0 模型。这是 IsValorum 的量化版本，适合想在自己硬件上运行大型混合专家模型的人。

Ling-3.1-flash-1019

inclusionAI · 工具包

处理科学和智能体任务，总参数 560B，激活参数 25B，上下文 1M token，在 Ling-3.1-flash 基础上进一步调优。服务示例使用多 GPU 服务器上的 SGLang 和 vLLM，采用 MIT 许可。

Granite-4.2-30B

ibm-granite · 工具包

先分步骤思考再作答，适合数学、代码、工具调用和多语言对话。这是 IBM 最大的稠密 Granite 4.2 模型，采用 Apache 2.0 许可，适合在自己硬件上运行开源模型的团队。

SmolLM2-135M-Instruct

HuggingFaceTB · 工具包

用一个 1.35 亿参数、小到能在设备上运行的指令微调模型回答聊天式问题，也能做改写和摘要。适合需要在 Python 或 JavaScript 中使用微型聊天模型的开发者。

SmolLM2-1.7B-Instruct

HuggingFaceTB · 工具包

聊天、改写和总结文本，还能调用函数，是一个小到可以在设备上运行的 1.7B 紧凑模型。这是 HuggingFaceTB 经过指令微调的 SmolLM2，适合想要小型英文模型的开发者。

novel-humanize-4b

gugujiji · 工具包

改写中文网文章节，让它读起来不那么像 AI 写的，同时保持剧情、对话和人物不变。这是基于 Qwen3-4B 的 4B 模型，仅限非商业使用。

gnani-evon-v3.3-30B-A3B

gnani · 工具包

用英语和十种印度语言聊天、答题和推理，上下文长度 128K。这是 Gnani.ai 的 30B 混合专家模型，适合用印度语言构建助手、RAG 和智能体的团队。

gpt-oss-20b-GGUF

ggml-org · 工具包

在你自己的电脑上生成文字，使用 ggml-org 打包的 OpenAI gpt-oss-20b 的 GGUF 版本。适合想在 Llama 应用或终端里本地运行开源 20B 模型的人。

Chandra OCR 2

datalab-to · 工具包

读取图片和 PDF 中的文字，返回保留页面布局的 markdown、HTML 或 JSON。能处理手写、表单、表格和数学公式，支持 90 多种语言，适合做文档数字化的人。

rakedoc-nano-2

cloudraker · 工具包

把文档页面图片解析成文字、表格和图表，并保留 markdown 格式。这是 1.2B 参数的模型，图表提取更好，适合构建文档流水线的开发者。

Qwen3.6-35B-A3B 2-bit GSQ GGUF

chtisgit · 工具包

用 2-bit GSQ 的 GGUF 转换版运行 35B 的 Qwen 模型，另配一个单独的视觉投影器，供 llama.cpp 使用。适合想在 CPU 或普通显卡上用小文件跑大模型的人。

Qwen3.6-35B-A3B GGUF (ShapeLearn Quantized)

byteshape · 工具包

Qwen3.6-35B-A3B 的量化 GGUF 版本，能读图片和文字，有从约 9 GB 起的 CPU 和 GPU 变体，用 ByteShape 的 ShapeLearn 制作。适合运行 llama.cpp 的开发者。

FLUX 3 Image Klein Prompt Upsampler

black-forest-labs · 工具包

一个 9B 模型，把简短的图像请求、最多 10 张参考图和可选的边界框，变成一条给 FLUX 3 Image Klein 用的详细提示词。适用于编辑、文生图和布局工作。

Spark-X2.6-4B GGUF

bartowski · 工具包

支持中英文的小型聊天模型，GGUF 文件从完整 bf16 到约 2.4 GB，供 llama.cpp 使用，有低或高两档思考设置。适合想要紧凑本地助手的开发者。

Qwen3.6-35B-A3B-coding-reap50-GGUF

anik-jha · 工具包

用砍掉一半专家的 Qwen3.6-35B-A3B 写代码，打包成适用于 llama.cpp 的 GGUF 文件。适合想要比完整模型占用更少内存的编程模型的开发者。

Kolibri-1

Aleph-Alpha · 工具包

用德语和英语推理并调用工具，上下文窗口超过一百万 token。这是 Aleph Alpha 推出的开放 78B 混合专家模型，每个 token 只激活 3.46B 参数。

Spark-X2.6-4B-DSpark-GGUF

XHToken · 工具包

作为推测解码的小型草稿模型，为 Spark-X2.6-4B 加速文本生成，提供 GGUF 格式。适合用 llama.cpp 在本地运行该模型的人。