来自 Hugging Face 的 AI 项目

Kvark-Sparkle-1.0-27B-GGUF

Egzakta · 工具包

KVARK Sparkle 1.0 这个 27B 视觉语言模型的 GGUF 文件，适用于 llama.cpp、Ollama 和 LM Studio，保留了推测解码头。适合在本地运行大模型的人。

Qwen3.5-4B-SFT-decompiler-O0-full

Divij · 工具包

把反编译器的输出改写成可读的 C 源码，带有有意义的名称和正确的类型。这是在未优化二进制上训练的 Qwen3.5-4B 微调模型，适合安全研究者和逆向工程师。

Qwenputer-npu

divagr1925 · 工具包

一个把小型 RISC-V 计算机内置在权重里的 Qwen3.5-4B 模型，用于精确算术和运行一个微型故事模型。这是给研究 transformer 内部程序的研究者做的实验。

Qwen3.5-4B Qwenputer Filesystem

divagr1925 · 工具包

一个实验性的 Qwen3.5-4B，把 RISC-V CPU 和一个小型文件系统编译进了权重，所以它不用外部工具就能跨会话记住事实。检查点能放进 24 GB 的 GPU。

DistilBERT base uncased

distilbert · 工具包

从 BERT base 蒸馏出来的小而快的英文语言模型，有 67M 参数。能填补被遮住的词，主要用来针对分类、标注和问答进行微调。

Qwen3.8 Flash Next Turbo Brilliance 50x GGUF

DavidAU · 工具包

DavidAU 制作的 Qwen3.8-Flash-Next 的 GGUF 版本，有 27 种推理模式、27 种指令模式和 15 个可在提示词里切换的 AI 角色。适合有大显卡或大内存的人。

Qwen3.8-27B-Jumbo-Fusion-IQ-747-900-Turbo-Brilliance-50X

DavidAU · 工具包

DavidAU 对 27B Qwen 模型的 GGUF 微调版，有可切换的指令和推理模式，以及内置的帮助系统。Hugging Face 把它列为图文转文字。供本地运行。

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF

DavidAU · 工具包

回答问题并读取图像，思考过程短得多。这是 DavidAU 对 27B 的 Qwen 3.8 的调优版 GGUF，目标是在保持准确度的同时减少推理 token，适合在本地运行模型的人。

Maximizing Model Performance 指南

DavidAU · 工具包

指导你为本地语言模型调节采样器和参数，并给出在 LM Studio、SillyTavern、Ollama 和 Koboldcpp 里设置系统提示词、推理模型和专家数量的步骤。

Qwen3.8-27B-AWQ-INT4

cyankiwi · 工具包

cyankiwi 制作的 Qwen3.8-27B 4-bit AWQ 量化版本，一个带思考控制的 27B 视觉语言模型。权重为 21.02 GB，可在 Transformers、vLLM 或 SGLang 中加载。

CLM-v0.1-8B

Contrastive-LM · 工具包

为给定的状态，给候选答案、动作或工具名各打一个概率，而不是写文字。这是建在冻结的 Qwen3-8B 编码器上的快速决策模型，适合智能体和分流工具的构建者。

FLUX.1-schnell for ComfyUI

Comfy-Org · 工具包

为 ComfyUI 重新打包的 FLUX.1-schnell 检查点，把文字提示词变成图像，带有一个运行更快、占用内存更少的 FP8 文件。适合 ComfyUI 用户。

cbx-indic-pii-extractor-17M

CobuildX-AI · 工具包

在印度语言和印度英语文本中找出姓名、电话号码、Aadhaar 和 PAN 等个人信息，并返回每个值的位置。这是一个 16.7M 参数、能在 CPU 上运行的模型。

Qwen3.8-27B iMatrix NVFP4 MTP GGUF

cdiamond · 工具包

Qwen3.8-27B 的 17.1 GB 混合精度 GGUF，保留了多词元预测层，为 24 GB GPU 上的 256K 上下文和视觉功能调优。适合在 llama.cpp 里本地运行大模型的人。

Qwen3.6-35B-A3B MTP GGUF

byteshape · 工具包

用带多词元预测的 GGUF 量化版本运行 Qwen3.6-35B-A3B，在 llama.cpp 里让 GPU 解码更快。由 ByteShape 制作，适合在显卡上运行本地模型的人。

Bespoke-Nimble-9B

bespokelabs · 工具包

用 Qwen3.5-9B 上的 LoRA 适配器，根据一段文字给是非题、选择题和评分等级打分。适合需要返回概率而不是自由文本的分类器的开发者。

NorthCUA-Nano

beipo-ai · 工具包

用基于 Qwen3.5 的 9B 稠密电脑操作模型，通过截图操作桌面和浏览器应用。适合用官方 NorthCUA 运行框架构建电脑操作智能体的开发者。

KAT-Coder-V2.5-Dev GGUF

bartowski · 工具包

Kwaipilot 的 KAT-Coder-V2.5-Dev 的 imatrix GGUF 量化版本，这是一个 34.7B 文本模型，4 位文件约 19 GB 起。适合在本地运行名字里带 Coder 的大模型的人。

MOSS Sharpness Slider

aoleg · 工具包

MOSS-Image 模型的滑块式 LoRA，只靠强度就能让图片更锐利或更柔和，不需要触发词。适合想修复 MOSS Base 模糊问题的图像创作者。

stationhouse

alxcspr · 工具包

存放 Marin-32B 的稀疏自编码器检查点、日志和特征普查文件，其中每一层都有宽度为 65536 的 TopK SAE，共 64 层。这是用于可解释性研究的档案库。

Molmo2-4B

allenai · 工具包

回答关于图片、视频和多张图片的问题，还能指出它找到的内容。这是 Ai2 的开源视觉语言模型，适合自己运行模型的开发者和研究者。

Signal 3.8 27B

agentionai · 工具包

比 Qwen3.8-27B 回答更简短直接，使用更少的回答和思考 token，因此回复结束得更早。这是一次轻量微调，可以直接用在与基础模型相同的工具里。

Smaug Humanizer

abacusai · 工具包

把 AI 写的文本改写成人类口吻，同时保留事实、数字、名称和排版。这是 Abacus.AI 基于 Gemma 4 微调的 12B 模型，适合写作者和编辑。

Jocasta-diff-VLA

RobotLearningLab · 工具包

把 Dream-VLA-7B 适配到 robosuite 中八类模拟 Panda 机械臂任务的机器人控制策略，使用 Flow Matching 动作头。适合有 CUDA GPU 的机器人研究者。

ZONOS2

Zyphra · 工具包

把文字转成 30 多种语言的自然语音，能根据样本克隆声音，采用混合专家模型以实现低延迟。可以在带 NVIDIA GPU 的 Linux 机器上本地运行。

G4-LuneLight-31B

zerofata · 工具包

提供一个 31.3B 参数的语言模型，基于 ReadyArt 的 gemma-4-31B-it-scotoma-2，适合在自己硬件上运行模型的人。这里的模型卡文字没有说明它的用途。

Forge-1-Gemma-4-E2B

YoSaNoo · 工具包

一个从 Google 的 gemma-4-E2B 微调而来的小型文本模型，偏向写代码，以 GGUF 文件发布，可在 Ollama、LM Studio、Unsloth 或 Jan 中在自己的笔记本上运行。

Qwen3.8-27B-CodeForge-3xMerge

xtools-at · 工具包

用三个 Qwen3.8-27B 微调版本加权合并而成的模型，可编写和解释代码，也能处理推理问题。适合想用一个通用模型做编程和聊天的开发者。

Spark-X2.6-1.7B-DSpark-GGUF

XHToken · 工具包

一个小型草稿模型，通过推测解码加速 Spark-X2.6-1.7B，每步最多猜 7 个 token。适合在支持它的 llama.cpp 构建上本地运行该模型的人。

Wan2.1-VACE-1.3B

Wan-AI · 工具包

用 Wan2.1 的 VACE 模型根据提示词、静态图片或已有片段制作和编辑视频，视频里还能出现中英文文字。适合有消费级 GPU 的视频创作者和开发者。

gemma-4-E2B-it-GGUF

unsloth · 工具包

Unsloth 制作的 Google DeepMind Gemma 4 E2B 指令微调模型的 GGUF 文件，接收文本和图像并输出文本，上下文为 128K。适合在笔记本和小型机器上本地运行模型的人。

RubatoCodec

third-intelligence · 工具包

把语音压缩成固定数量、长度可变的事件及其时长，并在流式解码时还原。这是面向搭建英语、日语和中文流式文字转语音的神经语音编解码器。

Inkling-Small-NVFP4

thinkingmachines · 工具包

Inkling-Small 的 NVFP4 版本，一个多模态混合专家模型，接收文本、图像和音频并输出文本。适合构建智能体、编程助手和其他 AI 应用的开发者。

MOSS-Image-SFT Segmentation Control LoRA

thedeoxen · 工具包

借助 MOSS-Image-SFT 把平涂色块的区域图重绘成新图片，保留区域形状，由提示词决定每个区域变成什么。适合使用 ComfyUI 的图像创作者。

MOSS-Image Normal Control LoRA

thedeoxen · 工具包

为 MOSS-Image-SFT 在 ComfyUI 里提供法线控制的 LoRA，根据彩色法线图保持物体的形状和体积，由提示词改变材质和场景，适合给形体重新贴材质和重新打光的人。

Hy-MT2-30B-A3B

tencent · 工具包

腾讯推出的 30B 混合专家翻译模型，支持 33 种语言互译，并能遵循翻译指令。适合要在自己 GPU 上做大批量机器翻译的团队。

MNN-Pocket-0.3B-MNN

taobao-mnn · 工具包

通过 MNN 运行时在手机和边缘设备上运行 0.3B 的中英文对话模型，是约 173 MB 的 4 比特版本。适合给移动应用加入设备端助手的开发者。

MNN-Pocket-0.3B-Dec

taobao-mnn · 工具包

读取一段文字状态和你的问题，在一次计算里为每个问题从你给的选项中选出答案，并给出各候选项的概率。这是面向开发者的决策模型，不是聊天模型。

UltraGliClass v0.1

Srimon12 · 工具包

154M 参数的零样本文本分类器，一次推理就为你传入的每个标签打分，适用于单标签、多标签和意图任务，也能处理长输入。适合需要在 Python 里快速给文本打标签的开发者。

Mica-v0.5-4B

sky7350 · 工具包

基于 Qwen3.5-4B 的 4B 分类模型，读取输入后为每个允许的答案给出概率，适用于护栏、路由、分流和智能体闸门。适合想在不用大模型的情况下做是非或标签判断的开发者。

Assistant_Pepe_32B

SicariusSicariiStuff · 工具包

这是一个基于 Qwen3-32B 的 32.8B 参数英语模型，有 8B、32B 和 70B 三个版本。这里的模型卡文字只有页面样式，所以没有写明具体用途。适合已经在关注这个模型系列的人。

paraphrase-multilingual-MiniLM-L12-v2

sentence-transformers · 工具包

把句子和段落转成 384 个数字组成的向量，用于语义搜索、聚类和句子相似度，是 sentence-transformers 项目的多语言模型。适合构建搜索或匹配功能的开发者。

SenseNova-U1.5-8B-MoT

sensenova · 工具包

统一的多模态模型，用于生成和编辑图像，中英文文字清晰，支持原生 4K 输出，可通过框选和参考图控制。适合有大显存 GPU 的设计师和研究者。

FlashVSR+

ruchangyao · 工具包

一步扩散模型，把低质量视频变成更高分辨率的清晰视频，有速度更快的 Turbo 版和画质更好的 Base 版。适合有高性能 GPU 的视频剪辑者和视觉研究者。

gemma-4-31B-it-scotoma-2-GGUF

ReadyArt · 工具包

这个模型是 ReadyArt 从自家 gemma-4-31B-it-scotoma-2 打包出来的 GGUF 版本，参数量 30.7B，可在本地运行。适合想以 GGUF 形式使用这个模型的人。

Jasper-K-35B-MoE

ragentile · 工具包

这个模型编写 GPU 内核，并通过在测试环境里反复尝试来提升速度。它是用强化学习从 Qwen3.6-35B-A3B 训练出来的混合专家模型，面向调优 GPU 代码的工程师。

Jasper-K-32B

ragentile · 工具包

这个模型编写 GPU 内核，并通过在测试环境里反复尝试来提升速度。它是用强化学习从 QwQ-32B 训练出来的 32B 模型，面向调优 GPU 代码的工程师。

Qwen3.5-4B-Base

Qwen · 工具包

这是一个只做过预训练的视觉语言基础模型，用于微调和上下文学习实验，不用于直接聊天。适合想用小型 Qwen3.5 作起点并用 LoRA 适配的开发者。

Qwen3-4B-GGUF

Qwen · 工具包

一个 4B 的 GGUF 聊天模型，可在 llama.cpp 或 ollama 里本地运行，有用于推理的思考模式和用于快速回复的普通模式。适合使用普通电脑的开发者和爱好者。

Qwen3-14B

Qwen · 工具包

这是一个 14.8B 参数的开源模型，难题用思考模式推理，日常聊天用更快的非思考模式回答。适合想用一个模型处理逻辑、代码、智能体和 100 多种语言的开发者。

Qwen2.5-Coder-32B-Instruct

Qwen · 工具包

编写、解释和修复代码，是 Qwen2.5-Coder 系列中最大的指令微调模型，32B 参数。适合想在自己硬件上运行强大开源编程模型的开发者。

Qwen2.5-Coder-14B-Instruct-GGUF

Qwen · 工具包

提供 Qwen2.5-Coder 14B 指令模型的 GGUF 文件，有八种量化大小，可用 llama.cpp 辅助写代码。适合有好 GPU 或大内存机器、想要更强本地代码助手的开发者。

Qwen2.5-Coder-1.5B-Instruct-GGUF

Qwen · 工具包

提供 Qwen2.5-Coder 1.5B 指令模型的 GGUF 文件，有八种量化大小，可用 llama.cpp 在笔记本上辅助写代码。适合想要轻量本地代码助手的开发者。

Qwen-Image

Qwen · 工具包

把文字提示词变成图像，并能在图中渲染清晰的英文和中文文字。适合使用 diffusers 库的设计师、艺术家和开发者。

PaddleOCR-VL

PaddlePaddle · 工具包

读取文档图像并返回其中的文字，是参数不到十亿的视觉语言模型。适合在自己的机器上用 PaddleOCR 解析中英文文档的人。

ARLoop-0.6B

osunlp · 工具包

把文本接着往下写，是带注意力残差的小型预训练循环 Transformer。这是基础模型，适合想在其上继续做中期训练或后训练的研究人员。

MiniCPM-V 4.6

openbmb · 工具包

能读懂单张图片、多张图片和视频并用文字回答，参数量 1.3B，适合在手机和其他边缘设备上运行。适合想要小型视觉语言模型的开发者。

OpenAI Privacy Filter

openai · 工具包

一次扫描就找出并遮盖文本里的姓名、邮箱等个人信息，可在你自己的机器上运行。适合需要在本地处理大量文本的团队。

Kokoro-82M-v1.0-ONNX

onnx-community · 工具包

用 Kokoro 把英文文本转成语音，这是一个 8200 万参数、打包成 ONNX 文件的文字转语音模型，可在 JavaScript 和 Python 中使用。适合想在应用里加一个小型本地语音的开发者。

EmbeddingGemma 2 Typed Decisions

mrm8488 · 工具包

一个 272M 的模型，由 EmbeddingGemma 2 微调而来，读取工作流的状态和一份问题模式，并为每个问题返回带有校准置信度的类型化答案。

Qwen3.5-4B-GLB-3D-Coder-GGUF

mradermacher · 工具包

ccore/Qwen3.5-4B-GLB-3D-Coder（一个 4.2B 模型）的静态 GGUF 量化版本，大小从 2.0 GB 到 8.5 GB，另有两个小型多模态补充文件。由 mradermacher 制作。

AREX-2 GGUF

mradermacher · 工具包

BAAI 的 AREX-2（26.9B）的 GGUF 量化文件，从 2 位到 8 位，另有可选的多模态补充文件。适合在本地运行大模型、想挑一个放得进自己内存的尺寸的人。

voyage-4-nano

MongoDB · 工具包

来自 Voyage 4 系列、3.46 亿参数的多语言文本嵌入模型，用于语义搜索和检索，向量大小可调。适合构建搜索和 RAG 系统的开发者。

Kromoss GGUF

molbal · 工具包

Kromoss 的 GGUF 量化副本，Kromoss 是基于 MOSS-Image-Base 微调的 1024 像素文生图模型，用于 ComfyUI。适合想在显存有限的 GPU 上生成图像的画师。

mine:o1-nano

MineAITechnology · 工具包

一个用 JAX 和 Flax 从零训练的 124M 参数 GPT-2 风格语言模型，附带可在 CPU 上使用的 ONNX 文件。适合研究小模型训练的学生和研究者。

RelayVSR X4 Quants

MATLOWAI · 工具包

RelayVSR 4 倍视频放大器的预量化 Wan 检查点，让它能在 ComfyUI 里用 16 GB 和 24 GB 显卡输出 2560x1408，适合视频剪辑和修复的人。

QI_2.1_AnyAngle

lilylilith · 工具包

Qwen Image 2.1 的 LoRA，可以把一张现有图片转到你选定的新镜头角度，同时保持它的风格。它用高斯泼溅或 3D 模型生成的粗略渲染图来引导。

SlideOn

lightonai · 工具包

LightOn 推出的英语稀疏检索模型，把查询和文档变成稀疏向量，用于倒排索引搜索。适合做英文文本检索的搜索工程师和开发者。

krea-2_model

Kerstal · 工具包

Krea 2 模型文件的第三方副本，基于 Krea-2-Turbo，附有 Krea 2 社区许可证的摘要。模型卡没有描述这个模型的任务。

PP-OCRv6_manga

Kellenok · 工具包

在 CPU 上查找并读取漫画、条漫和动画页面上的日文和中文文字。这是 Kellenok 的小型 ONNX 检测器加识别器组合，FP16 下约 11.6 MB，适合构建漫画阅读工具的开发者。

Rein-NPC-4B

jmc0 · 工具包

驱动能对话、能在游戏中执行动作（比如出售物品或叫来守卫）、并在压力下保持角色设定的游戏角色。适合使用 llama.cpp 或 LLMUnity 的游戏开发者。

Mellum2.1-12B-A2.5B-Thinking-GGUF

JetBrains · 工具包

在 llama.cpp、Ollama 或 LM Studio 里本地运行 JetBrains 的 12B 推理模型，有五种 GGUF 大小可选。适合想在自己电脑上用上下文为 131,072 个 token 的思考模型的开发者。

Axion-1.0-35B-APEX-I-MiniPlus-V2.1-GGUF

IsValorum · 工具包

用一个混合精度的压缩 GGUF 文件，在 llama.cpp 里本地运行 35B 的 Axion-1.0 模型。这是 IsValorum 的量化版本，适合想在自己硬件上运行大型混合专家模型的人。

Index-Translate-2B

IndexTeam · 工具包

在 150 种语言之间翻译文本，并遵循关于术语表、格式、语气和长度的指令。这是 IndexTeam 的紧凑 2.3B 模型，适合在本地翻译的团队，还能通过配套文件翻译图片。

Qwen3.8-27B-Splash

incoai · 工具包

通过 Inco AI 的 Splash 引擎在 Apple 芯片 Mac 上运行 Qwen3.8-27B，一个包里含 4-bit 模型、DFlash 2 草稿模型和视觉编码器。只能在 Splash 里使用。

granite-speech-5.0-470m-turboctc

ibm-granite · 工具包

把七种语言的语音转成带标点和大小写的文字。这是 IBM Granite 推出的 4.7 亿参数小模型，适合在服务器、笔记本和手机上做快速转写。

granite-speech-5.0-2b

ibm-granite · 工具包

把六种语言的语音转成文字，并在英语与其他语言之间翻译语音，支持关键词偏置和语言提示。这是 IBM 面向企业音频的紧凑 2B 语音语言模型。

Granite-4.2-30B

ibm-granite · 工具包

先分步骤思考再作答，适合数学、代码、工具调用和多语言对话。这是 IBM 最大的稠密 Granite 4.2 模型，采用 Apache 2.0 许可，适合在自己硬件上运行开源模型的团队。

SmolLM2-135M-Instruct

HuggingFaceTB · 工具包

用一个 1.35 亿参数、小到能在设备上运行的指令微调模型回答聊天式问题，也能做改写和摘要。适合需要在 Python 或 JavaScript 中使用微型聊天模型的开发者。

SmolLM2-1.7B-Instruct

HuggingFaceTB · 工具包

聊天、改写和总结文本，还能调用函数，是一个小到可以在设备上运行的 1.7B 紧凑模型。这是 HuggingFaceTB 经过指令微调的 SmolLM2，适合想要小型英文模型的开发者。

Kokoro-82M-v1.1-zh

hexgrad · 工具包

用一个 82M 参数的文字转语音模型朗读英文和中文文本。这是在 Kokoro 上做的一次短期训练，加入了 100 位中文说话人，适合想要小型本地声音的开发者。

gnani-evon-v3.3-30B-A3B

gnani · 工具包

用英语和十种印度语言聊天、答题和推理，上下文长度 128K。这是 Gnani.ai 的 30B 混合专家模型，适合用印度语言构建助手、RAG 和智能体的团队。

gpt-oss-20b-GGUF

ggml-org · 工具包

在你自己的电脑上生成文字，使用 ggml-org 打包的 OpenAI gpt-oss-20b 的 GGUF 版本。适合想在 Llama 应用或终端里本地运行开源 20B 模型的人。

MANTA-27B

gevaertlab · 工具包

根据文字或图像，一次性为医学问题的各个答案选项打分，不生成文字。这是斯坦福 Gevaert 实验室的研究模型，不是医疗器械。

Qwen3.8-27B-Randean-MXFP4

flechin · 工具包

一个 27B 推理模型，经过微调后倾向于直接回答而不是含糊其辞，并量化为 MXFP4，让 vLLM 能在单块 32 GB GPU 上提供服务，适合运行本地推理和工具调用模型的开发者。

FireRedLID

FireRedTeam · 工具包

识别音频片段里说的是哪种语言，覆盖 100 多种语言和 20 多种中文方言和口音。它是 FireRedASR2S 的语种识别模块，面向语音开发者。

Qwen3.8-27B-Ridge-GGUF

empero-ai · 工具包

把 Qwen3.8-27B 压缩成每权重 3.7 位的 GGUF 文件来运行，适合 16 GB 的 GPU，还可选图像输入。适合用 llama.cpp、Ollama 或 LM Studio 在本地跑模型的人。

UltraBERT-380M

dmis-lab · 工具包

预测英文文本中被遮盖的词，并提供一个上下文长度 32K 的预训练编码器，可微调用于分类或检索。这是 dmis-lab 的填空模型，适合机器学习工程师和研究人员。

Qwen3-VL for ComfyUI

Comfy-Org · 工具包

为 ComfyUI 文本编码器文件夹重新打包的 Qwen3-VL 4B 和 8B 模型文件，提供从 bf16 到 4-bit 风格的多种精度。适合需要 Qwen3-VL 文本编码器的 ComfyUI 用户。

Qwen-Image-Edit

Comfy-Org · 工具包

为 ComfyUI 重新打包的 Qwen-Image-Edit 模型文件和 LoRA，附带根据文字指令编辑图片的工作流。适合修图和改风格的 ComfyUI 用户。

FLUX.2 Klein 4B for ComfyUI

Comfy-Org · 工具包

为 ComfyUI 重新打包的 FLUX.2 Klein 4B 模型文件，把文字提示词变成图像。包含扩散模型、文本编码器和 VAE，并附带现成的文生图工作流。

Depth Anything 3

Comfy-Org · 工具包

Comfy-Org 为 ComfyUI 重新打包的深度估计模型文件，共四种大小。它们把图片或视频变成深度图。适合在图像和视频工作流里需要深度信息的 ComfyUI 用户。

ACE-Step 1.5

Comfy-Org · 工具包

在 ComfyUI 里根据文本生成音乐的模型文件，由原版 ACE-Step 1.5 重新打包而成。包含检查点、扩散模型、文本编码器和 VAE 文件，以及一组现成的工作流。

cbx-indic-pii-extractor-58M

CobuildX-AI · 工具包

在印度语言和印度英语文本中找出姓名、电话号码、Aadhaar 和 PAN 等个人信息，并返回每个值的位置。这是三种规格中最准确的一个，有 57.6M 参数。

Qwen3.6-35B-A3B 2-bit GSQ GGUF

chtisgit · 工具包

用 2-bit GSQ 的 GGUF 转换版运行 35B 的 Qwen 模型，另配一个单独的视觉投影器，供 llama.cpp 使用。适合想在 CPU 或普通显卡上用小文件跑大模型的人。

Qwen3.6-35B-A3B GGUF (ShapeLearn Quantized)

byteshape · 工具包

Qwen3.6-35B-A3B 的量化 GGUF 版本，能读图片和文字，有从约 9 GB 起的 CPU 和 GPU 变体，用 ByteShape 的 ShapeLearn 制作。适合运行 llama.cpp 的开发者。

RWKV7-G1 GooseOne

BlinkDL · 工具包

纯 RNN 的文本生成基础模型，用于聊天、推理和工具调用，可作为后训练和微调的起点。支持八种语言，适合开发者和研究人员。

FLUX.2 [klein] 4B Base

black-forest-labs · 工具包

用开放的 4B 基础模型，根据文字提示和参考图生成并编辑图像，适合在一张消费级显卡上做微调、LoRA 训练和自定义流程。

FLUX 3 Image Klein Prompt Upsampler

black-forest-labs · 工具包

一个 9B 模型，把简短的图像请求、最多 10 张参考图和可选的边界框，变成一条给 FLUX 3 Image Klein 用的详细提示词。适用于编辑、文生图和布局工作。

Spark-X2.6-4B GGUF

bartowski · 工具包

支持中英文的小型聊天模型，GGUF 文件从完整 bf16 到约 2.4 GB，供 llama.cpp 使用，有低或高两档思考设置。适合想要紧凑本地助手的开发者。