开发者 AI 技能与智能体

bge-m3

BAAI · 工具包

把 100 多种语言的文字转成向量用于搜索，从短句到 8192 词元的文档都行。一个模型同时支持稠密、多向量和稀疏检索。由 BAAI 发布。

Qwen3.6-35B-A3B-GGUF

unsloth · 工具包

用 Unsloth 的 GGUF 文件运行 Qwen3.6-35B-A3B，这是能读图和文字的混合专家模型，每个词元只用约 3B 参数。适合在本地运行大模型的开发者。

Inkling-Small

thinkingmachines · 工具包

读取文字、图像和音频并用文字回答，面向开发助手、编程工具和智能体的开发者。这是稀疏混合专家模型，总参数 276B，每个词元激活 12B。

Sarvam-Prism

sarvamai · 工具包

针对一段文字提出的问题，一次前向计算就给出每个答案选项的概率。适合需要固定选项决策的团队，比如工单分派，要用大显存的 NVIDIA 显卡。

Qwen3.8-27B-FP8

Qwen · 工具包

用 Qwen3.8-27B 的 FP8 量化权重处理文字、图片和视频，它是带可调思考模式的 27B 稠密模型。适合用 transformers、vLLM 或 SGLang 部署它的开发者。

BotPsy-0.8B-GGUFs

qvac · 工具包

0.8B 工具调用模型 BotPsy 的 GGUF 版本，提供 BF16、Q8_0 和 Q4_K_M 三种文件，用 llama.cpp 在你自己的设备上完整运行智能体和函数调用任务。

Sharp-Spark-X2.6-4B-GGUF

peculiar-ragdoll · 工具包

在 6 GB 显存的显卡上运行支持长上下文的 4B 编程模型。这些 Spark-X2.6-4B 的 GGUF 量化版有三种大小，使用偏向编程的重要性矩阵。

gpt-oss-20b

openai · 工具包

根据文字提示词写作、推理并调用工具，是 OpenAI 的 21B 开放权重模型，可在 16 GB 内存内运行。适合想要本地或专用模型的开发者。

parakeet-ultra

moondream · 工具包

把语音转成文字，并给出句子和单词的时间戳。它是 moondream 对 NVIDIA parakeet-tdt-0.6b-v3 做后训练得到的版本，适合需要多语言准确转写的开发者。

Anima-RGBA

localai0301 · 工具包

通过 4 通道 VAE 和配套 LoRA，让 Anima 模型输出透明背景（RGBA）图像，用于 ComfyUI。适合需要带干净 alpha 通道的抠图的画师。

phonon-31m-en

gradium · 工具包

小型英文文字转语音模型，流式输出自然的 24 kHz 音频，可在笔记本 CPU、手机或浏览器标签页里运行。适合想在设备上出声的开发者。

gemma-4-26B-A4B-it

google · 工具包

Google 发布的经指令微调的 Gemma 4 模型，读取文字和图像并输出文字，支持可配置的思考、函数调用，上下文窗口最长 256K 词元。适合开发者和研究者。

Whistle

Cactus-Compute · 工具包

转写七种语言的语音，给出单词时间戳和语音嵌入，模型只有 16.9 MB。一段简短的 Python 脚本就能运行，适合给应用加入语音功能的开发者。

Hy4-preview

tencent · 工具包

用一个 770B 参数的混合专家模型生成文字、代码和文档，它激活 49B 个参数，支持最长 1M 的上下文。适合有硬件来托管超大开放权重的团队。

MOSS-Image-SFT-8-steps-dmd

lodestones · 工具包

把 MOSS-Image-SFT 的出图步数减到 8 步且不用 CFG，以 ComfyUI 的 LoRA 文件提供。这是一个仍在进行中的蒸馏，适合在本地生成图像的人。

Qwen3.5-0.8B

Qwen · 工具包

读取图片和文字并用文字回复，来自 Qwen 的 873M 小模型。适合想用轻量多模态基础模型做原型或微调的开发者和研究者。

LemonDecider 4B

inclusionAI · 工具包

根据文本状态和命名的问题做有类型的决策，返回选项、是非和有序评分的概率，不生成文字。这是 inclusionAI 的 4.5B 模型，面向开发者。

Cactus runtime

Cactus-Compute · 工具包

提供预编译的运行时二进制文件，在手机、笔记本、服务器和浏览器上本地运行文字、语音和视觉模型。适合在应用里发布设备端 AI 的开发者。

Idol Turbo

speridlabs · 工具包

用 5 步、无引导的采样，把一张物体图片变成最多一百万个 3D 高斯，是 Idol 经过蒸馏的更快版本，适合 3D 美术师和 ComfyUI 用户。

Qwen3.8-27B Turbo Brilliance NEO MAX MTP GGUF

DavidAU · 工具包

以 GGUF 形式运行 Qwen3.8-27B，带有一组可在提示词里切换的推理和指令模式。适合运行本地模型、喜欢调整模型工作方式的人。

Qwen3.5-4B

Qwen · 工具包

用一个 4B 的混合架构模型处理文字和图片输入，支持 201 种语言和方言，上下文为 262,144 个 token。适合在 transformers、vLLM 或 SGLang 里运行小型开放权重的开发者。

Muse Glimmer 30B

meta-models · 工具包

读取文字和图片，在本地机器上完成工具调用、多步推理等智能体任务，是从 Muse Spark 蒸馏出的 30B 模型。适合构建本地智能体的开发者。

Raon-1 nano (GGUF)

KRAFTON · 工具包

把 Raon-1 nano 语言模型打包成适用于 llama.cpp 的 GGUF 文件，让开发者在自己的电脑上运行韩英双语聊天模型。列出了四种量化类型。

WeVisOne-VL

Comfy-Org · 工具包

把腾讯的 WeVisOne-VL 模型文件重新打包给 ComfyUI 使用，有 4B 和 2B 两种尺寸，各有 BF16 和 int8 版本。适合需要把文件放进文本编码器文件夹的 ComfyUI 用户。

mammoth-1

baselabs · 工具包

一次性回答关于某个情境的一组问题，并为每个选项给出校准过的概率。这是 Baseten 的 Base Labs 发布的 27B 决策模型，由 Qwen3.5-27B 调整而来。

Ripple-65B-Preview-GGUF

AtomicChat · 工具包

65B 智能体编程模型 Ripple Preview 的 GGUF 量化文件，用 llama.cpp 在本地运行，适合在自己硬件上运行大型开源模型的人。

Xiaomi-OCR-0

xiaomi-research · 工具包

用 Xiaomi 的一个 0.8B OCR 模型解析文档，并回答关于图片中文字的问题，涵盖表格、公式和手写，适合构建 OCR 和文档工具的开发者。

all-MiniLM-L6-v2

sentence-transformers · 工具包

把句子和短段落变成 384 维向量，用于语义搜索、聚类和句子相似度。适合构建英文搜索或检索功能的开发者。

MOSS-Image-Base

OpenMOSS-Team · 工具包

用一个 5.1B 的文生图模型根据文字生成图片，可以用普通提示词、标签序列或 JSON 布局来安排文字和物体。适合有 NVIDIA 显卡的开发者和设计师。

Kromoss

lodestones · 工具包

用 MOSS-Image-Base 在 1024 px 下的完整微调版本根据文字生成图片，另附两个 8 步加速 LoRA。可直接替换 MOSS-Image-SFT，适合 diffusers 和 ComfyUI 用户。

Mach Boom

SyzygyResearch · 工具包

用 Gradium 的 Phonon 31m 模型的 3.5 位版本，在单个 CPU 核心上把英文文字变成语音，速度比实时快好几倍，适合需要小巧本地语音输出的开发者。

ARC 1.0

rayline-ai · 工具包

读取智能体的对话，预测哪个模型会成功、会用多少词元、该花多少推理，让应用按质量和成本来路由请求。适合智能体开发者。

moss_image_base_dmd2

data-archetype · 工具包

作为 MOSS-Image-Base 模型的蒸馏 LoRA，用 8 步而不是 50 步根据文字出图。适合想要更快生成图片的 ComfyUI 和 Diffusers 用户。

Alpie Seed 9B

169Pi · 工具包

用一个基于 Qwen3.5-9B 的 9B 开放权重模型处理文字、图片和视频，做推理和编程，并提供适合轻量硬件的 GGUF 版本。适合想要能离线运行的模型的开发者。

Earlybird

sahilmahendrakar · 工具包

在设备上把语音转成文字，并在说话人说完之前预测每个词，同时给每个词打分。这是 16.8 MB 的英语模型，适合语音智能体和实时字幕。

Oc-e-Non-v1

p-e-w · 工具包

用更少的字数作答，回复长度约为它所基于的 Qwen3-4B-Instruct-2507 的一半，简短直接。适合想要精简文本生成结果的人。

Wan2.2-TI2V-5B

Wan-AI · 工具包

用文字，或用图像加文字，生成 720P、24 fps 的视频，能在单块消费级显卡（如 4090）上运行。这是 Wan-AI 的 5B 视频模型，适合创作者和研究者。

Z-Image-Turbo

Tongyi-MAI · 工具包

只用 8 次函数评估就能根据文字生成写实图片，并能渲染英文和中文文字。适合想在 16 GB 消费级显卡上快速生成图片的人。

Qwen3.6-35B-A3B

Qwen · 工具包

用一个 35B 的混合专家模型处理编程、仓库级推理和图文输入，它激活 3B 个参数。适合在 transformers、vLLM 或 SGLang 里运行开放权重的开发者。

HairDeck

hyz317 · 工具包

把一张角色图片变成风格化的 3D 发片，带颜色和用于动画的弹簧骨骼链，可导出为 GLB 网格或 VRM 虚拟形象，适合有 CUDA GPU 的虚拟形象创作者和 3D 美术。

Qwen3.8-27B GGUF (ShapeLearn Quantized)

byteshape · 工具包

用 ByteShape 的 ShapeLearn 量化出的 Qwen3.8-27B GGUF 文件，提供五种适合不同显卡的版本，在 llama.cpp 里支持图片输入和 MTP 推测解码。适合在自己的显卡上运行它的人。

Thinklite-27B

Sparset · 工具包

Qwen3.8-27B 的一个变体，推理用的 token 少得多，高强度下最终答案约快一倍，适合运行推理模型并希望等待更短的人。

Qwen3.5-9B

Qwen · 工具包

Qwen 的 9B 开放模型，能读取文字和图片并输出文字，上下文很长，支持 201 种语言和方言，适合想在自己硬件上用中等规模模型的开发者。

Spark-X2.6-4B

XHToken · 工具包

一个 4.1B 的语言模型，擅长编程、智能体任务和长上下文，支持英文和中文，有三档思考强度，适合构建在自己设备上运行的智能体的开发者。

VoxCPM2

openbmb · 工具包

用 30 种语言和九种中文方言朗读文字，输出 48 kHz，可根据文字描述设计新声音，也能从一小段音频克隆声音。这是面向开发者的开放 2.3B 文字转语音模型。

MOSS-Image-SFT

OpenMOSS-Team · 工具包

OpenMOSS 的文生图模型，由 MOSS-Image-Base 微调而来，可以读取普通提示词、标签或 JSON 布局来摆放文字和物体，适合在 NVIDIA GPU 上用 diffusers 生成图片的人。

DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF

ISTA-DASLab · 工具包

DeepSeek-V4.1-Flash-1017 的 GGUF 版本，有三种很小的尺寸，每个张量用各自的精度量化，适合在有限硬件上运行超大混合专家模型的人。

DeepSeek-V4.1-Flash-1017-GGUF

unsloth · 工具包

Unsloth 制作的 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本，这是一个巨大的图文模型，可在 128 GB 或更多内存的机器上本地运行，适合自己运行大型开放模型的人。

Ornith-1.5-9B-GGUF

ornith-ai · 工具包

提供 Ornith-1.5-9B 的 GGUF 文件，这是一个通过自我改进循环训练的 9B 稠密模型，适合单显卡使用。适合想要公开编程成绩的小模型的开发者。

Nanbeige4.3-33B

Nanbeige · 工具包

一个 33.1B 的开放模型，面向智能体编程和专业协作任务，是 Nanbeige4.3 系列的旗舰教师模型，适合想要约 30B 参数强力开放模型的开发者和智能体开发者。