来自 Hugging Face 的 AI 项目

Qwen 3.6 35B-A3B REAP-48 v2 GGUF

crucible-labs · 工具包

在 8.78 GiB 的 GGUF 文件里运行经过剪枝和量化的 Qwen3.6-35B-A3B，供 llama.cpp 使用，比第一版更接近未量化的权重。适合内存有限的人。

pig-vae

calcuis · 工具包

pig 架构的小型 GGUF VAE，用于图像和视频工作流，加载器在 gguf-node 包里。目标是在较旧的机器上运行更快、占用内存更少。

auto-150m-3

ProCreations · 工具包

根据工具调用、用户请求和历史，判断编程智能体提出的工具调用是否应该执行，回答批准或拒绝。这是 Auto 里最小的模型，适合内存很少的机器。

TAEF2

madebyollin · 工具包

用一个微型自动编码器实时预览 FLUX.2 的图像生成，它与 FLUX.2 VAE 使用相同的潜空间格式。适合图像应用开发者和内存有限的人。

DeepSeek-V4.1-Flash-1017 GGUF

ggml-org · 工具包

DeepSeek 的 748B 模型 V4.1 Flash 1017 的 GGUF 文件，由 ggml-org 转换并附带处理图片的视觉文件，适合有大内存机器、通过 llama.cpp 工具运行模型的人。

Qwen3.5-4B Qwenputer Filesystem

divagr1925 · 工具包

一个实验性的 Qwen3.5-4B，把 RISC-V CPU 和一个小型文件系统编译进了权重，所以它不用外部工具就能跨会话记住事实。检查点能放进 24 GB 的 GPU。

FLUX.1-schnell for ComfyUI

Comfy-Org · 工具包

为 ComfyUI 重新打包的 FLUX.1-schnell 检查点，把文字提示词变成图像，带有一个运行更快、占用内存更少的 FP8 文件。适合 ComfyUI 用户。

Chatterbox-Turbo

ResembleAI · 工具包

这个 350M 参数的模型为低延迟语音智能体打造，朗读英文文本，并能通过文本里的标签加入笑声和咳嗽声。适合想要快速、有表现力、显存占用更少的语音的开发者。

Qwen2.5-Coder-14B-Instruct-GGUF

Qwen · 工具包

提供 Qwen2.5-Coder 14B 指令模型的 GGUF 文件，有八种量化大小，可用 llama.cpp 辅助写代码。适合有好 GPU 或大内存机器、想要更强本地代码助手的开发者。

AREX-2 GGUF

mradermacher · 工具包

BAAI 的 AREX-2（26.9B）的 GGUF 量化文件，从 2 位到 8 位，另有可选的多模态补充文件。适合在本地运行大模型、想挑一个放得进自己内存的尺寸的人。

Kromoss GGUF

molbal · 工具包

Kromoss 的 GGUF 量化副本，Kromoss 是基于 MOSS-Image-Base 微调的 1024 像素文生图模型，用于 ComfyUI。适合想在显存有限的 GPU 上生成图像的画师。

DeepSeek-V4.1-Flash-1017-oQ4e-mtp

mlx-community · 工具包

DeepSeek-V4.1-Flash-1017 的混合精度 MLX 版本，这是一个超大的多模态混合专家模型。适合拥有数百 GB 内存、想用 MLX 工具运行它的人。

Qwen3.6-35B-A3B-coding-reap50-GGUF

anik-jha · 工具包

用砍掉一半专家的 Qwen3.6-35B-A3B 写代码，打包成适用于 llama.cpp 的 GGUF 文件。适合想要比完整模型占用更少内存的编程模型的开发者。

DeepSeek-V4.1-Flash-1017-exl3

turboderp · 工具包

在 ExLlamaV3 里以每权重 1.68、2.25 或 2.68 比特运行压缩后的 DeepSeek-V4.1-Flash-1017。适合在自己的硬件上运行大模型、想少占内存的人。

MemT-1.0-Nano

MemTensor · 工具包

自带固定大小记忆状态的语言模型，基于 Qwen3.6-35B-A3B，无需重读就能保留过去的上下文。适合研究模型和智能体记忆的研究人员和开发者。

Wan2.1-T2V-1.3B

Wan-AI · 工具包

根据文字提示生成 480P 短视频，小到大多数约 8 GB 显存的消费级 GPU 都能运行。适合想在本地做文字转视频的创作者和研究者。

Qwen3.8-27B-exl3

turboderp · 工具包

Qwen3.8-27B 的 EXL3 量化版本，提供从 1.40 到 6.00 的多种每权重比特数。适合在显存有限的 GPU 上用 ExLlamaV3 本地运行 27B 模型的人。

Sharp-Spark-X2.5-4B-GGUF

peculiar-ragdoll · 工具包

4B 编程模型 Spark-X2.5 的压缩 GGUF 版本，针对约 6 GB 显存的 GPU 调整了长上下文。适合想在小硬件上本地运行编程模型的开发者。

TinyLlama-1.1B-Chat-v1.0

TinyLlama · 工具包

以小型 1.1B 语言模型的身份用纯文本聊天，运行时占用内存很少。适合想要基于 Llama 风格基础模型的紧凑聊天模型的开发者和研究人员。

Juggernaut-XL-v9

RunDiffusion · 工具包

根据文字提示生成写实风格的图片，是 Stable Diffusion XL 的微调版本，模型卡说它能在 8 GB 显存上运行。适合想用现有 SDXL 工具得到照片风格效果的创作者。