开发者 AI 技能与智能体

PLLuM-12B-chat-2512

CYFRAGOVPL · 工具包

PLLuM 系列的波兰语聊天模型，按人类偏好调优，适合对话、问答和摘要，并关注波兰公共服务场景。

Qwen3-ASR-1.7B GGUF

cstr · 工具包

用 Qwen3-ASR-1.7B 的量化 GGUF 文件，在 CrispASR 里把语音、歌声和歌曲转成文字或英文。适合想在本地转写 30 种语言和 22 种中文方言的人。

Qwen 3.6 35B-A3B REAP-48 v2 GGUF

crucible-labs · 工具包

在 8.78 GiB 的 GGUF 文件里运行经过剪枝和量化的 Qwen3.6-35B-A3B，供 llama.cpp 使用，比第一版更接近未量化的权重。适合内存有限的人。

Underdog-Woof-4B-1.1

ConwayResearch · 工具包

这是一个紧凑的 4.2B 文本生成模型，基于 Qwen 3 4B 后训练，更适配 Underdog 自己的配套环境，并量化为 4-bit MLX 格式。适合在非商业场景下运行小型本地模型的人。

Instinct

continuedev · 工具包

预测你在代码里接下来可能做的修改。这是 Continue 推出的 7.6B 模型，基于 Qwen2.5-Coder-7B 微调，适合想在自己电脑或服务器上运行它的开发者。

Wan 2.1 for ComfyUI

Comfy-Org · 工具包

为 ComfyUI 重新打包的 Wan 2.1 视频模型文件，涵盖文生视频、图生视频、VACE 编辑、镜头控制、透明通道视频和音频驱动配音，并附带现成的工作流。

Stable Diffusion v1.5 Archive

Comfy-Org · 工具包

为 ComfyUI 存档的 Stable Diffusion v1.5 检查点，把文字提示词变成图像，用于旧版本测试。包含原始文件和一个 FP16 副本。

MoGe

Comfy-Org · 工具包

从单张图片估计 3D 几何和深度，是为 ComfyUI 重新打包的 MoGe 模型文件，附带生成网格和深度图的工作流。适合处理 3D 和深度的 ComfyUI 用户。

MiniMax Music 3

Comfy-Org · 工具包

为 ComfyUI 重新打包的 MiniMax Music 3 模型文件，附带 Text to Music 工作流，可根据文字提示词生成音频。适合用 ComfyUI 生成音乐的用户。

North Mini Code

CohereLabs · 工具包

Cohere 的开放权重研究模型，用于写代码、智能体软件工程和终端任务。30B 模型，3B 激活，256K 上下文。适合自己运行编程模型的开发者。

t5-v1_1-xxl-encoder-gguf

city96 · 工具包

Google T5 v1.1 XXL 文本编码器的 GGUF 转换版，用于在 llama.cpp 里生成文本嵌入，或通过 ComfyUI-GGUF 为图像生成模型提供输入。适合开发者和图像生成用户。

Anuvani-LID

CIIL · 工具包

识别音频片段里说的是印度 22 种官方语言还是印度英语，并给出校准过的分数。适合构建多语言语音流水线的开发者。

Chroma Context-1

chromadb · 工具包

一个 200 亿参数的搜索模型，为复杂的多步问题找出支撑文档，并在搜索中修剪自己的上下文。设计成与更大的推理模型搭配的检索助手。

EMA Lightning

canberkkkkkk · 工具包

一个很小的土耳其语文字转语音模型，8.6M 参数，约 34 MB，可在 GPU 或 CPU 上离线运行，并能边生成边输出音频。适合需要土耳其语语音输出的开发者。

pig-vae

calcuis · 工具包

pig 架构的小型 GGUF VAE，用于图像和视频工作流，加载器在 gguf-node 包里。目标是在较旧的机器上运行更快、占用内存更少。

Qwen3.5-9B GGUF (ShapeLearn)

byteshape · 工具包

Qwen3.5-9B 的 GGUF 副本，这个模型能读文字和图像，用 ByteShape 的 ShapeLearn 压缩，面向 llama.cpp。有 GPU 和 CPU 的版本，大小约从 3 GB 到 5.7 GB。

North-Mini-Code-1.0 GGUF

byteshape · 工具包

North-Mini-Code-1.0 编程模型的 GGUF 副本，用 ByteShape 的 ShapeLearn 压缩，面向 llama.cpp 中的 GPU 使用。四种大小，从 12.1 GB 到 21.5 GB，适合单 GPU 的开发者。

UI-TARS-1.5-7B

ByteDance-Seed · 工具包

一个开放的多模态智能体模型，能读屏幕截图并决定在应用、浏览器、手机和游戏中做什么。适合构建电脑操作和图形界面自动化智能体的开发者。

SalamandraTA-7b-instruct

BSC-LT · 工具包

一个 7.8B 的翻译模型，支持 40 种语言和 3 种变体，可做句子、段落和文档翻译，也能处理 HTML 或 XML 文本。适合想要本地翻译器的开发者和研究人员。

MLTNT Militant Roots Reggae LoRAs for YuE2

becausereasons · 工具包

用六个 LoRA 文件把 YuE2-3B 音乐模型引向现代 militant roots reggae，从 steppers 到 dancehall 和嘻哈融合。适合想从歌词生成歌曲的音乐人和爱折腾的人。

Qwen3.5-4B GGUF

bartowski · 工具包

Qwen3.5-4B 的 imatrix GGUF 量化版本，这是一个带 MTP 层的 4.3B 图文模型，4 位文件约 3 GB。适合在本地运行小模型的人。

MiniCPM5-2B-GGUF

bartowski · 工具包

MiniCPM5-2B 文本模型的多种大小的量化 GGUF 副本，用 llama.cpp 和重要性矩阵制作。适合在自己电脑上运行小型中英文模型的人。

Llama-3.2-1B-Instruct GGUF

bartowski · 工具包

Llama-3.2-1B-Instruct 的 GGUF 量化版本，这是一个支持八种语言的 1.2B 文本模型，4 位文件约 0.8 GB。适合运行微型本地模型的人。

granite-4.2-3b-GGUF

bartowski · 工具包

IBM 的 granite-4.2-3b 文本模型的量化 GGUF 副本，从完整精度到较小的 3 位文件，尺寸齐全。适合想在自己电脑上运行小型聊天模型的人。

google_gemma-4-31B-it-GGUF

bartowski · 工具包

Google Gemma 4 31B 指令模型的量化 GGUF 文件，大小从 17.15 GB 到 61.41 GB，由 bartowski 用重要性矩阵制作。可读取图像和文字。可在 llama.cpp、LM Studio 等工具里运行。

Cloudflare clef GGUF

bartowski · 工具包

Cloudflare 的 clef 决策模型的静态 GGUF 量化版本，它不写文字，而是一次性为关于某个状态的类型化问题的每个选项打分。适合用 llama.cpp 运行它的开发者。

Qwen3.8-Whittle-MoE-27B-MLX-4bit

barozp · 工具包

面向 Apple Silicon 的 4 位 MLX 版本，来自从稠密的 Qwen3.8-27B 切出来的混合专家模型，总参数 27B，激活 17.8B。适合用 mlx-lm 运行本地模型的人。

ERNIE-4.5-VL-28B-A3B-Thinking

baidu · 工具包

读取图像和文字并进行推理，29.7B 参数中同一时间约有 3B 处于激活状态。涵盖读图表、根据照片解 STEM 题、视觉定位和放大图像。Apache 2.0。

ERNIE-4.5-21B-A3B-Thinking

baidu · 工具包

以推理见长的 ERNIE 4.5 混合专家文本模型，总参数 21B、激活参数 3B，上下文 128K，支持工具调用，支持英文和中文。适合需要用较小激活规模做深度推理的开发者。

bge-small-en-v1.5

BAAI · 工具包

BAAI 的小型英文文本嵌入模型，把句子变成向量，用于搜索和检索。约 33M 参数，属于 FlagEmbedding 项目。

bge-base-en-v1.5

BAAI · 工具包

把英文文本转成用于搜索和检索的数字向量。这是 BAAI 的 109M 参数嵌入模型，适合通过 sentence-transformers 构建语义搜索或 LLM 检索的开发者。

MOSS-Image-SFT GGUF

axiomofmind · 工具包

MOSS-Image-SFT 扩散 Transformer 的非官方 GGUF 文件，有 Q8_0 和 Q4_K_S 两种，用 stable-diffusion.cpp 在本地做文字生成图像。需要另外准备 Qwen3.5-9B 编码器、分词器和 VAE。

GPT-X3-150M

AxiomicLabs · 工具包

Axiomic Labs 的 149M 参数基础文本模型，会接着你给的文本往下写。模型卡报告它的 Intelligence Index 为 33.05，高于 SmolLM2-135M 的 27.13。F32 下约 598 MB。

Qwen3.8-27B-NVFP4-DGX-SPARK

autotrust · 工具包

在 DGX Spark 上把 Qwen3.8-27B NVFP4 的解码速度提高约 3.9 倍，权重不变，只靠调好的推测解码配置。适合在 Blackwell GPU 上用 vLLM 部署它的团队。

AuroraIMG2-50M-Preview

AuroraAI-Research · 工具包

微型文字生成图像模型，根据英文提示词生成固定 256 乘 256 的图片，基于从零训练的 50.4M 流匹配 Transformer。这是一个预览版本，适合研究人员和爱好者。

Ming 3.0 TTS 0.5B GGUF

audio-cpp · 工具包

为 audio.cpp 运行时打包的 Ming 3.0 TTS 0.5B GGUF：文字转语音、声音克隆和声音设计，支持七种语言，输出单声道 44.1 kHz，不需要 Python 运行环境。适合开发者。

OvisOCR2

ATH-MaaS · 工具包

文档解析模型：读取一页图像，按阅读顺序输出 Markdown，涵盖文字、公式和表格。约 0.8B 参数，通过 vLLM 运行。适合做文档数字化的开发者。

evo2_7b

arcinstitute · 工具包

一个 7B 的 DNA 语言模型，可读取最长 100 万长度的序列，来自 Arc Institute 的 Evo 2 系列。适合处理基因组数据、想要中等大小检查点的研究者。

ModernBERT-large

answerdotai · 工具包

预测英文文本或代码中被隐藏的词，微调之后可作为更大的长上下文编码器，用于搜索、分类和检索。适合想要更大号 ModernBERT 的开发者和研究者。

ModernBERT-base

answerdotai · 工具包

预测英文文本或代码中被隐藏的词，微调之后可作为长上下文编码器，用于搜索、分类和检索。适合需要快速 BERT 风格编码器的开发者和研究者。

Qwen3.8-27B-Quark-AWQ-MXFP4

amd · 工具包

把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本，通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。

OLMoE-1B-7B-0924

allenai · 工具包

用运行成本较小的混合专家模型续写英文文本，激活参数 1B，总参数 7B。代码、数据和检查点全部开放，适合使用 transformers 的研究人员和开发者。

Olmo-3.1-32B-Think

allenai · 工具包

回答前先用英语一步步推理，对数学和代码问题有帮助。这是 allenai 的 32B 开放模型，公开了代码、检查点和训练细节，通过 transformers 运行。

G4-MeroMero-v2-31B

zerofata · 工具包

zerofata 基于 Gemma 4 31B 指令模型做的 31.3B 模型，适合想试用这个调优版本或和原模型对比的人。模型卡文字对用途说得很少。

Qwen-Video-Edit

yunpeng1998 · 工具包

通过在视频潜变量上复用图像编辑模型，根据文字指令编辑视频，只加了轻量的可训练投影。适合想做指令式编辑的视频创作者和研究人员。

Qwen3.5-35B-A3B-GGUF

unsloth · 工具包

在你自己的机器上读取文字和图片、编写代码并调用工具，使用 Unsloth 刷新后的 Qwen3.5 35B-A3B 视觉语言模型 GGUF 文件。适合运行本地智能体的开发者。

DSpine

tencent · 工具包

为 Qwen3-8B 的推测解码一次起草多个词元，让模型服务器一次检查它们。适合推理工程师和推测解码研究人员。

Hy-MT2-7B-GGUF

tencent · 工具包

在 33 种语言之间翻译文本并遵循翻译指令，是腾讯 7B 模型面向 llama.cpp 的 GGUF 版本。适合在本地运行翻译的开发者。

Hy-MT2-1.8B-GGUF

tencent · 工具包

在 33 种语言之间翻译文本并遵循翻译指令，是适用于 llama.cpp 的 1.8B GGUF 格式模型。适合想要一个小型本地翻译器的开发者。

Qwen2.5-0.5B-Instruct

Qwen · 工具包

作为最小的指令微调 Qwen2.5 模型回答对话提示，约 0.5B 参数。适合想要轻量本地模型来做对话、结构化输出和测试的开发者。