开发者 AI 技能与智能体

Qwen3.8-27B-mixed-3.5bpw-MLX

rapid-mlx · 工具包

一个压缩到每个权重 3.5 位的 27B 视觉语言模型，适用于 24 GB 内存的 Apple Silicon Mac，通过 Rapid-MLX 在本地提供服务。适合想要本地模型和智能体后端的 Mac 用户和开发者。

Qwen3.8-27B-NVFP4

RadixArk · 工具包

Qwen3.8-27B 的预量化 NVFP4 版本，能读取文字、图片和视频并用文字回答，通过 SGLang 在 NVIDIA Blackwell 显卡上提供服务。适合在该硬件上运行智能体、聊天机器人和 RAG 的开发者。

Qwen3.5-122B-A10B

Qwen · 工具包

这个模型同时读图像和文字并用文字回答，是总参数 122B、激活参数 10B 的混合专家模型。适合有大型 GPU 服务器、想用开源视觉语言模型做推理、编程和智能体的团队。

Qwen3-8B-MLX-bf16

Qwen · 工具包

通过 mlx 库运行 Qwen3 8B 语言模型，用于聊天、推理、翻译和智能体任务。适合想在本地使用可切换思考模式的文本模型的开发者。

Qwen3-30B-A3B-GGUF

Qwen · 工具包

一个 30.5B 的混合专家聊天模型，GGUF 格式，每个词元只激活 3.3B 参数，可在 llama.cpp 或 ollama 里运行。有思考和普通两种模式，适合机器配置较高的开发者。

Qwen3-0.6B-GGUF

Qwen · 工具包

一个 0.6B 的小型 GGUF 聊天模型，可在 llama.cpp 或 ollama 里本地运行，并能在思考和普通回复之间切换。适合硬件一般的用户和测试本地模型的开发者。

Qwen2.5-Coder-7B

Qwen · 工具包

作为 7.6B 的基础语言模型来补全和生成代码，开发者可以运行它、微调它，或用于代码中间填充任务。适合制作编程工具的人。

Qwen2.5-Coder-32B-Instruct-GGUF

Qwen · 工具包

一个 32B 代码聊天模型的 GGUF 版本，可用 llama.cpp 在本地运行。能根据简单请求编写、解释和修复代码，适合想在自己机器上运行的开发者。

Qwen2.5-Coder-0.5B-Instruct

Qwen · 工具包

这是一个仅 494M 参数的对话模型，能写代码、解释代码、修代码，上下文为 32,768 个 token。适合想在笔记本、测试环境或本地小助手里用最小开源 Qwen 编程模型的开发者。

Qwen2.5-7B-Instruct-AWQ

Qwen · 工具包

Qwen2.5-7B-Instruct 的 4 位 AWQ 版本，一个 7.6B 的聊天模型，能遵循指令、处理表格并返回 JSON。适合想要更小内存占用的强力聊天模型的开发者。

Qwen2.5-14B-Instruct

Qwen · 工具包

这是一个 14.7B 参数的对话模型，能回答问题、写代码、做数学题并输出结构化 JSON，上下文最长 131,072 个 token。适合想自己运行开源模型的开发者。

Qwen2.5-0.5B

Qwen · 工具包

Qwen2.5 里最小的基础模型，约 4.94 亿参数，上下文 32,768 个词元，用来在你自己的数据上继续训练。适合想在微型语言模型上搭建的开发者。

Qwen-Image-2512

Qwen · 工具包

根据英文或中文提示词生成图片，在人物真实感、自然细节和图中文字上比八月的 Qwen-Image 更好。适合使用 diffusers 的开发者和设计师。

Qwen3.8-27B-QUASAR-NVFP4

QUASAR-QAT · 工具包

以 4-bit NVFP4 运行 Qwen3.8-27B，仅 19.7 GB，用 QUASAR 方法训练，使它接近完整的 BF16 模型。适合在 NVIDIA Blackwell GPU 上用 vLLM 部署的人。

AstrLink Guard

QuantumNous · 工具包

在 ONNX 中本地识别中文、英文和混合文本、代码、日志以及 AI 编程助手请求里的个人信息和凭据。适合在敏感数据离开机器前对它做遮盖的开发者。

MakHam Thai TTS

pythainlp · 工具包

用一个只有 8 MB 的 ONNX 小模型，以女声朗读泰语文本，在单个 CPU 线程上就能运行。适合需要在服务器、边缘设备或浏览器里提供泰语语音的开发者。

deberta-v3-base-prompt-injection-v2

protectai · 工具包

识别企图劫持语言模型的英文文本，把每条输入标为正常或提示词注入。适合在 LLM 应用里筛查用户输入的开发者。

Gender-Classifier-Mini

prithivMLmods · 工具包

用微调后的 SigLIP 2 图像模型把照片分成女性或男性两类。适合想要一个小型 Python 分类器来处理照片集的开发者和研究人员。

Bonsai-1.7B-unpacked

prism-ml · 工具包

1 位 Bonsai-1.7B 模型的 FP16 safetensors 副本，用于在标准 Hugging Face 工具里运行它。模型卡建议改用原生 1 位版本，那些版本更小也更快。

IndiCodec

prakharkhatri · 工具包

把语音变成两路紧凑的词元，再还原成 24 kHz 音频，码率 1.09 kbps，重点支持英语和十种印度语言。适合语音研究人员和文字转语音的开发者。

Pipecat Tone

pipecat-ai · 工具包

给 Pipecat 语音智能体提供两个小型 CPU 模型，一个读取来电者的情绪和讽刺，一个给智能体的回复加上富有表现力的朗读标签。适合语音智能体的开发者。

DeepSeek-V4.1-Flash-1017-EXL3-franken-v100

philbert440 · 工具包

在八块 Tesla V100 32 GB 显卡上，以完整的 100 万词元上下文运行 DeepSeek V4.1 Flash，用的是 EXL3 专家包和 SM70 版 vLLM。适合拥有这类服务器的人。

pplx-embed-v2-context-9b

perplexity-ai · 工具包

把文本、图像和文档页面转成用于搜索的向量，还能在嵌入每个分块时参考它所在的整篇文档。适合为长文档做检索的开发者。

pplx-decider-flash-gguf-v1.2

perplexity-ai · 工具包

根据你设定的选项给请求分类，支持文本和图像，使用小型决策模型的 Q8_0 GGUF 副本。适合能运行协议 v3 运行时的开发者。

HolosTTS

patriotyk · 工具包

把乌克兰语音素转成语音，可用预设声音或从音频样本克隆的声音，输出流式 24 kHz 单声道音频。适合在 PyTorch、ONNX Runtime、MLX 或 Android 上添加乌克兰语语音的开发者。

PP-OCRv6_small_rec

PaddlePaddle · 工具包

能读出图片里的英文和中文文字，是 PaddleOCR 的 PP-OCRv6 系列里的小型模型。适合想在自己机器上用轻量 OCR 的开发者。

Primal VAE

ostris · 工具包

提供小型图像自编码器，把图片压成一两个潜变量通道，不需要缩放系数，再通过分块拼成 Flux 或 Stable Diffusion 的潜变量形状。适合搭建扩散模型的人。

Raptor-0.6-4B-JANG_6M

OsaurusAI · 工具包

能判断什么时候调用工具、什么时候直接回答、什么时候先问一句，由 4B 模型微调并量化，适用于运行 Osaurus 的 Apple Silicon Mac。适合在本地运行助手的人。

MOSS-Video-Preview-Real-Time-SFT

OpenMOSS-Team · 工具包

在视频播放的同时给出评论，逐帧接收画面并低延迟作答。适合用 Python 和 transformers 构建实时视频助手的开发者和研究人员。

MOSS-TTS-v1.5

OpenMOSS-Team · 工具包

用 31 种语言朗读文字，并能用一小段参考音频克隆声音，支持语言标签和明确的停顿标记。适合给产品加入语音的配音人员、配音团队和开发者。

MOSS-TTS

OpenMOSS-Team · 工具包

用八种语言朗读文字，支持零样本声音克隆、长篇语音，并可控制发音和时长。适合音频制作人和开发语音功能的开发者。

MOSS-Music-8B-Instruct

OpenMOSS-Team · 工具包

听一首歌并回答有关它的问题：带时间戳的歌词、情绪和曲风、调、速度与和弦，以及歌曲结构。适合处理音乐音频的开发者和研究人员。

Luciole-8B-Instruct-1.1-GGUF

OpenLLM-France · 工具包

Luciole-8B-Instruct-1.1 的量化 GGUF 副本，一个支持法语和英语的 8B 文本生成模型，可在你自己的电脑上运行。来自 LINAGORA 在 OpenLLM-France 联盟中的工作。

MiniCPM-OCR 1.0 DSpark

openbmb · 工具包

通过起草 token、再让主模型一次性验证，加快 MiniCPM-OCR 1.0 的解码。它是草稿头，不是独立的 OCR 模型，适合自己部署文档解析的人。

SenseNova-6.8-Code2Video GSQ-RCO GGUF

OliviaRossi · 工具包

以混合精度 GGUF 文件运行 26.9B 参数的 SenseNova-6.8-Code2Video 模型，可在终端聊天或启动本地服务。适合想在自己硬件上使用该模型的人。

RealVisXL V5.0 GGUF

off-grid-ai · 工具包

用 stable-diffusion.cpp 加上 RealVisXL V5.0 的 GGUF 副本，在你自己的电脑上根据文字生成图片。适合想在本地生成图片、并在更轻或更高质量的文件之间选择的人。

Juggernaut XL v9 GGUF

off-grid-ai · 工具包

用 stable-diffusion.cpp 加上 Juggernaut XL v9 的 GGUF 副本，在你自己的电脑上根据文字生成图片。适合想在本地生成图片、并在更轻或更高质量的文件之间选择的人。

Parakeet RNNT 1.1B

nvidia · 工具包

把英文语音转写成小写文本。由 NVIDIA NeMo 和 Suno.ai 团队开发的 1.1B FastConformer Transducer 模型，适合给应用加入语音识别的开发者。

DeepSeek-V4.1-Flash-NVFP4

nvidia · 工具包

读取文本和图像并输出文本，是 NVIDIA 制作的 DeepSeek-V4.1-Flash 的 NVFP4 精简版本。适合在 NVIDIA Blackwell GPU 上部署智能体、聊天机器人和检索系统的开发者。

YuE2 Particle Sliders v2

ntc-ai · 工具包

为 YuE2-3B 的音频生成加上 16 个滑块，调整声音和曲风，适合想用一个提示词塑造英文文本转音频效果的人。

Hermes-4.3-36B-GGUF

NousResearch · 工具包

Hermes 4.3 36B 的 GGUF 版本，是一个混合推理模型，能先思考再回答、写出有效的 JSON，并遵循你的系统提示词。适合在自己机器上运行大模型的人。

nomic-embed-text-v1.5-GGUF

nomic-ai · 工具包

通过 llama.cpp 在你自己的机器上把句子变成向量，使用紧凑的 GGUF 文件，适合搜索和 RAG 提问。适合想要本地文本嵌入的开发者。

ClipProj-MiniMax-H3

NicoLab28 · 工具包

让小型 Qwen3-VL 在 ComfyUI 里代替 MiniMax H3 的 32B 文本编码器，把显存从 15.7 GB 降到 4.5 GB。这是需要自定义节点的概念验证项目。

BERTimbau Base

neuralmind · 工具包

一个用巴西葡萄牙语预训练的 BERT 模型，能补全被遮住的词，也能生成文本嵌入。适合处理葡萄牙语文本的 NLP 开发者和研究人员。

Confucius4-TTS

netease-youdao · 工具包

用 14 种语言朗读你的文字，还能在不同语言之间复制参考声音，无需额外训练。这是网易有道的语音合成系统，适合开发者和创作者。只能使用你有权使用的声音。

Qwen3.8-Flash-Next-DFlash2-GGUF

nazeshinjite · 工具包

一个 GGUF 草稿模型，通过推测解码让 llama.cpp 里的 Qwen3.8-Flash-Next 更快，文件有 334 MiB 和 622 MiB 两种。它不是独立模型，适合在本地运行该目标模型的人。

Nanbeige4.3-33B-INT4

Nanbeige · 工具包

Nanbeige4.3-33B 的 INT4 量化版，这是一个面向编程和专业智能体任务的 33B 模型，用量化感知训练制成。适合想用更少内存运行强大开放智能体模型的开发者。

Nanbeige4.2-3B

Nanbeige · 工具包

4.2B 参数的紧凑循环式 Transformer 模型，面向工具使用、办公任务和编程等智能体工作，支持英语和中文。适合想用小型开放模型做智能体的开发者。

Qwen3.8-27B Fable-5 Coding Distilled GGUF

mradermacher · 工具包

一个 27.3B、经过编程蒸馏的 Qwen3.8 模型的 GGUF 量化文件，从 2 位到 8 位，另有可选的多模态补充文件。适合在本地运行编程模型、需要一个放得进内存的尺寸的开发者。

OneJev1.6-4B-GGUF

mradermacher · 工具包

OneJev1.6-4B 的量化 GGUF 副本，大小从约 2 GB 到 8.5 GB，可在你自己的电脑上运行。模型卡没有说明基础模型的用途。