开发者 AI 技能与智能体

gemma-4-E2B-it-litert-lm

litert-community · 工具包

打包成 .litertlm 文件的 Gemma 4 E2B 指令微调模型，用于 LiteRT-LM 框架，适合在手机、桌面和边缘设备上私密地本地运行。

Llama-V-JEPA-LM-Qwen3-8B

kkt94 · 工具包

用一个 9.2B 的模型回答关于视频片段的问题，它把冻结的 V-JEPA 2.1 视频编码器接到 Qwen3-8B 上，适合有 24 GB 以上 GPU 的人。

hs-decide-1-flash

hindsight-ai · 工具包

针对文本状态上的有类型问题，一次给出每个选项的概率，不生成文字，支持八种语言。这是 Hindsight 工具用的 0.8B 决策模型，可用 vLLM 或 Transformers 提供服务。

jevos-v4

feder-cr · 工具包

一个本地决策模型，在笔记本 CPU 上约 28 到 130 毫秒就能回答关于文本的是非、选择和打分问题，为每个答案返回概率。适合想要免费本地方案、替代云端决策 API 的开发者。

Qwen3.8-9B-Distill-GGUF

empero-ai · 工具包

Empero 的 Qwen3.8-9B 的 GGUF 量化版本，一个由更大的 Qwen3.8 蒸馏到 Qwen3.5-9B 架构里的推理模型，适用于 llama.cpp、Ollama、LM Studio 等工具。

Z-Image Turbo

Comfy-Org · 工具包

Comfy-Org 打包的 Z-Image-Turbo 文生图模型的 ComfyUI 即用文件，附带文生图、放大和 ControlNet 工作流。基于 Tongyi-MAI 的原版。

TRELLIS.2

Comfy-Org · 工具包

Comfy-Org 重新打包的微软 TRELLIS.2-4B 模型文件，供 ComfyUI 使用，用于图片转模型工作流，适合从图片构建 3D 资产的人。

ZONOS3-Mini GGUF

AtomicChat · 工具包

把 ZONOS3-Mini 文本转语音模型打包成适用于 llama.cpp 的 GGUF 文件，内置 27 种声音，有从 0.41 到 1.61 GB 的六种主干大小。适合在本地运行语音的开发者。

Gemma4-12B v2 Coding + Agentic Edition

yuxinlu1 · 工具包

Google Gemma 4 12B 指令模型的 GGUF 微调版本，面向编程和使用工具的智能体工作，只需约 4.5 GB 空闲内存就能离线运行。

Inkling

thinkingmachines · 工具包

读取文字、图片和音频并写出文字，是一个庞大的开放多模态模型，适合编码助手、智能体和聊天机器人。适合有多 GPU 服务器或托管 API 的开发者。

Qwen3-8B

Qwen · 工具包

Qwen 的 8.2B 开放语言模型，可在处理难题的思考模式和日常聊天的普通模式之间切换，支持工具调用和 100 多种语言。

pplx-decider-v1.2

perplexity-ai · 工具包

一次读入一个情境和多个问题，再逐个给出选择、是否或分数。适合需要分派、标记或评估请求的团队。

Qwen3.8-27B NVFP4

nvidia · 工具包

NVIDIA 把阿里巴巴 Qwen3.8-27B 压缩成 4 位 NVFP4 的版本，用 Model Optimizer 制作，面向 Blackwell GPU，输入文字、图片和视频，输出文字。

parakeet-tdt-0.6b-v3

nvidia · 工具包

转写 25 种欧洲语言的语音，自动识别语言，并加上标点、大小写和词级时间戳。这是 NVIDIA 的 600M 参数语音转文字模型，面向开发者和转写服务。

Kumo Tabular

nvidia · 工具包

根据作为上下文给出的带标签示例行，预测新表格行的类别或数值。这是 NVIDIA 的预训练表格基础模型，用于分类和回归，适合开发者和数据团队。

Moondream Parakeet Redux

moondream · 工具包

moondream 推出的 178 MB 语音识别模型，在八个 x86 CPU 核心上以 113 倍实时速度运行。它能转写英语、德语、法语、西班牙语、意大利语、葡萄牙语、俄语和乌克兰语。

Raon-1 mini

KRAFTON · 工具包

能聊天和推理，尤其擅长韩语，并可执行调用工具的智能体任务。这是一个 28.8B 的混合专家模型，每个词元激活 4.3B 参数，上下文 262,144 个词元。KRAFTON AI 的预览版本。

Haruka-Tagger

KaraKaraWitch · 工具包

一次为动漫风格插画打上多达 98,782 个 Danbooru 标签，涵盖画师、角色、版权、通用特征、年份和分级。适合整理或检索图片集合的人。

DeepSeek-V4.1-Flash-1017-Basalt

jesdga · 工具包

把 DeepSeek V4.1 Flash 打包成单个模型文件供 Basalt 引擎使用，它在一张 NVIDIA Blackwell GPU 上运行，放不下的专家由系统内存承担。支持图片，上下文最长 1,048,576 个词元。

NCM checkpoints

hazyresearch · 工具包

Hazy Research 为 Next-Concept Modeling 发布的研究检查点，这是一种由粗到细的文本生成方法，含用于摘要、翻译、数独和语言建模的分词器与生成器配对。

Phonon voices

gradium · 工具包

为 Phonon S 文字转语音模型提供 102 个现成的声音，涵盖英语、法语、德语、西班牙语和葡萄牙语，每个都是可直接加载的小型嵌入文件，不需要克隆。

whisper.cpp

ggerganov · 工具包

OpenAI 的 Whisper 语音识别模型，转换成 ggml 文件供 whisper.cpp 使用，从 tiny 到 large-v3-turbo 多种尺寸，另有更小的量化版本。

Qwen3.8-35B-A3B-Distill-GGUF

empero-ai · 工具包

用十种尺寸的 GGUF 文件运行一个 35B 混合专家模型，每个 token 约 3B 参数在工作，另附视觉投影文件。适合 llama.cpp、Ollama、LM Studio、Jan 和 KoboldCpp 用户。

REAX 1.3

decisionmodels · 工具包

让两个模型在同一张 GPU 上并行运行并取平均，为决策请求的各个选项返回概率。适合想要通过兼容 Jev 的接口使用开放决策模型的团队。

elephant-1

baselabs · 工具包

一次性回答关于某个情境的一组问题，并为每个选项给出校准过的概率。这是 Baseten 的 Base Labs 发布的 9B 决策模型，由 Qwen3.5-9B 调整而来。

Qwen3.5-4B-GGUF

unsloth · 工具包

Unsloth 制作的 Qwen3.5-4B GGUF 量化版本，一个能读图片和文字并用文字回答的小模型，适合在本地运行模型的人。

GLM-5.3-Flash-GGUF

unsloth · 工具包

在你自己的硬件上运行 Unsloth 的 GLM-5.3-Flash 文本模型 GGUF 版本，作者把这个大型开源模型定位于编码和智能体工作。适合内存充足的人。

Qwen3-0.6B

Qwen · 工具包

最小的 Qwen3 对话模型，基于 Qwen3-0.6B-Base 构建。它能在思考模式和更快的普通模式之间切换，支持 100 多种语言和 32,768 token 的上下文，在普通硬件上也能运行。

GPT-2

openai-community · 工具包

用最小的 GPT-2 模型根据提示词生成英文文本，它经过预训练，学习预测下一个词。适合想运行或微调小型基础模型的学习者、研究人员和开发者。

TRELLIS.2-4B

microsoft · 工具包

微软的 4B 图片转 3D 模型，把一张图片变成带 PBR 材质的有纹理 3D 网格，分辨率最高到 1536，适合有大显存 NVIDIA GPU 的人。

LightOnOCR-3-4B

lightonai · 工具包

读取文档页面图片，返回 markdown 文本，或带边界框的标注块、图片描述和图表数据。适合构建 OCR 和文档理解流程的开发者。

LightOnOCR-3-0.8B

lightonai · 工具包

LightOn 的 0.8B 小型 OCR 模型，把页面图片读成 markdown，在 grounding 模式下还会给每个区块标上边界框。是 LightOnOCR-3 系列中快速、轻量的尺寸。

Raon-1 nano (LiteRT-LM)

KRAFTON · 工具包

把 Raon-1 nano 打包成 4-bit 的 LiteRT-LM 包，上下文 4,096 个 token，用于在设备上运行韩英双语聊天模型。回复不带思考步骤。

gemma-4-E4B-it

google · 工具包

接收文字、图像和音频输入并输出文字，上下文 128K token，支持 140 多种语言。这是 Google DeepMind 的小型指令微调 Gemma 4 模型，为在笔记本和手机上运行而设计。

DeepSeek-R1

deepseek-ai · 工具包

用 684B 的推理模型生成文本，该模型主要通过强化学习训练，面向数学、代码和逻辑。适合自己托管大型开源模型的研究人员和团队。

DeepHat-V1-7B

DeepHat · 工具包

面向网络安全和 DevOps 工作的 7B 编程模型，由 Qwen2.5-Coder-7B 微调而来。适合想要本地小模型的安全和运维工程师，须遵守附加的使用限制。

Apex-35B-V1.0

Apexintelligence-AI · 工具包

用于编程、工具使用、问答、搜索和研究任务的文本模型，基于 Qwen3.6-35B-A3B，每个词元约用 3B 参数。适合开发者和研究者。

GLM-OCR

zai-org · 工具包

读取文档图像中的文字、公式和表格，并从中提取结构化信息，支持八种语言。这是 zai-org 的小型 OCR 模型，面向开发者和文档处理流水线。

Qwen3.6-35B-A3B-MTP-GGUF

unsloth · 工具包

通过 Unsloth 的 GGUF 文件在本地运行 Qwen3.6-35B-A3B，带多词元预测，让 llama.cpp 解码更快。适合想要本地智能体编程模型的开发者。

flint-GGUF

unsloth · 工具包

用 Unsloth 的 GGUF 文件运行 Flint，这是面向编程智能体的 39.8B 混合专家模型，每个词元只用约 2.5B 参数。适合在本地运行编程智能体的开发者。

Beam-1.0-501B-A23B

reflection · 工具包

Reflection 推出的开放指令微调文本模型，501B 参数，每次激活 23B，上下文 1M token，面向编程、工具使用和推理。需要大型多 GPU 服务器才能运行。

Qwen3.5-9B-Base

Qwen · 工具包

为研究人员和开发者提供带视觉编码器的预训练 9B 基础模型，用于微调和实验，而不是直接聊天。能处理文本和图像。

Qwen3-4B

Qwen · 工具包

用 4B 的 Qwen3 模型生成文本，可在处理难题的思考模式和快速聊天的普通模式之间切换。适合想用小型聊天模型的开发者。

pplx-decider-flash-v1.2

perplexity-ai · 工具包

Perplexity 的小型决策模型，基于 Qwen3.5-4B，读取文字和图片，用概率回答选择题、是非题和打分题，适合快速分流和分诊。

Maya 2 Native

maya-research · 工具包

用 24 kHz 音频朗读 11 种印度语言和英语的文字，边生成边流式输出，带 20 个内置声音和跨语言声音克隆。这是一个可以自己托管的开放 2.5B 文字转语音模型。

Qwen3.8 13.5B

kusuriya-labs · 工具包

一个把 Qwen3.8-27B 剪掉一半层数再重新训练的实验，得到一个 14.7B 的日英模型，作者称它目前还不实用。

Qwopus3.8-27B-Coder-Flash-GGUF

Jackrong · 工具包

作为 Qwen3.8-27B 的 GGUF 微调版，帮你写代码并胜任会调用工具的智能体任务，用约 20 万条代码、智能体和推理样例训练。适合在自己电脑上运行模型的开发者。

Ling-3.0-tiny

inclusionAI · 工具包

用 7.9B 的混合推理模型生成文本，每个词元只激活 1.3B 参数，适合本地和低资源环境。适合不想用数据中心 GPU 却要推理和智能体能力的开发者。

gemma-4-E2B-it

google · 工具包

接收文字、图像和音频输入并输出文字，上下文 128K token，支持 140 多种语言。这是 Google DeepMind 最小的指令微调 Gemma 4 模型，为手机和笔记本而设计。

DeepSeek-V4-Flash

deepseek-ai · 工具包

DeepSeek 的预览版混合专家语言模型，总参数 284B，每个词元用 13B，上下文一百万词元。是 DeepSeek-V4-Pro 的较小兄弟。适合实验室和重度自托管。

Needle 3

Cactus-Compute · 工具包

Cactus Compute 的小型设备端模型，用于工具调用、结构化提取和文本嵌入，通过 cactus Python 包使用。适合构建本地智能体的开发者。

Alpie Seed 9B GGUF

169Pi · 工具包

通过三种位深的 GGUF 文件，在你自己的机器上运行 169Pi AI 的图文模型 Alpie Seed 9B。适合想在本地做视觉语言对话的开发者。

MiMo-V2.6-Pro-RL

XiaomiMiMo · 工具包

在一个 1.02T 参数、1M 词元上下文的模型里同时处理文字、图像、视频和音频。它是小米 MiMo-V2.6 系列的旗舰，用大规模强化学习训练，面向编程和智能体工作。

Qwen3.5-9B-GGUF

unsloth · 工具包

Unsloth 制作的 Qwen3.5-9B GGUF 量化版本，一个能读图片和文字并用文字回答的中等规模模型，适合在本地运行模型的人。

Qwen2.5-Coder-7B-Instruct-GGUF

Qwen · 工具包

在你自己的电脑上运行 Qwen 的 7B 指令微调编程模型，打包成 GGUF 文件，有八种量化等级。适合想通过 llama.cpp 获得代码帮助的开发者。

MiniCPM5-2B

openbmb · 工具包

用面向设备端和本地使用的稠密 2B 级模型生成文本，涵盖英文和中文的编程、数学、长上下文、工具使用和智能体任务。适合硬件有限的开发者。

MiniCPM-OCR 1.0

openbmb · 工具包

OpenBMB 的 1.3B 模型，能读取英语和中文文档，解析文字、表格、公式、图表和印章，并提取关键字段。

whisper-large-v3-turbo

openai · 工具包

OpenAI 的更快的 Whisper 模型，用于语音识别和语音翻译，有 809M 参数，解码层只有 4 层。适合开发者和需要转写音频的人。

gpt-oss-120b

openai · 工具包

OpenAI 的开放权重语言模型，117B 参数，可调推理强度，思维链可见并支持工具使用。能在一块 80 GB 的 GPU 上运行，采用 Apache 2.0 许可。

KURE-Sparse-nano

nlpai-lab · 工具包

一个紧凑的韩英稀疏检索模型，把查询和文档变成稀疏向量，用于倒排索引搜索，适合做韩语搜索的团队。

gemma-4-E4B

google · 工具包

Google DeepMind 的 Gemma 4 系列中的 E4B 模型，一个能读文字、图片和音频并输出文字的开放模型，面向笔记本和手机运行而设计。

Qwen-Fixed-Chat-Templates

froggeric · 工具包

用一个即插即用的 Jinja 文件替换 Qwen 官方聊天模板，修复渲染错误、缓存失效、浪费词元和智能体卡住的问题。适合在本地运行 Qwen 3.5、3.6 和 3.8 模型的人。

Clef-Flash

Cloudflare · 工具包

把一个状态和一组有类型的问题变成决策，一次返回每个问题每个选项的概率，没有自由文本。这是 Cloudflare 的 9B 多模态模型，面向开发者。

CCORE GLB-3D-Coder 1.7B

ccore · 工具包

为你描述的游戏资产写出完整的 Three.js 页面，带 3D 预览和导出 GLB 按钮。这是微调过的 Qwen3-1.7B，GGUF 格式，能在普通硬件上运行，适合游戏开发者。

NorthCUA-Pro

beipo-ai · 工具包

读取截图和请求，为操控桌面或浏览器的智能体写出推理和工具调用。适合有大型 GPU 环境、构建电脑操作智能体的团队。

MiMo-V2.6-Distill-Qwen-9B

XiaomiMiMo · 工具包

Xiaomi MiMo 的 9B 智能体模型，由 Qwen3.5-9B 微调而来，覆盖编程、智能体任务、视觉编程和网络安全，作为研究的起点发布。

Thinklite-27B-GGUF

Sparset · 工具包

Thinklite-27B 的 4 位 GGUF 版本，适用于 llama.cpp，每次回答比基础模型用更少的推理，适合在本地运行 27B 文本模型的人。

piper-voices

rhasspy · 工具包

为 Piper 文字转语音系统准备的现成声音文件，适合想让自己的软件朗读文字的开发者和创客。

Chatterbox TTS

ResembleAI · 工具包

Resemble AI 的开源文字转语音模型，支持零样本声音克隆和情感夸张控制。最新的多语言版本覆盖 23 种语言，参数量 0.5B。

BotPsy-0.8B

qvac · 工具包

一个专为函数调用和智能体工作流设计的 0.8B 小模型，基于 Qwen3.5-0.8B，轻到可以在设备上运行，适合想要本地使用工具的助手的开发者。

Nemotron 3.5 Parse

nvidia · 工具包

读取扫描件、PDF、幻灯片和表单的页面图像，返回其中的文字、表格、图表数据、阅读顺序和边框，输出为 Markdown、HTML 或 JSON。NVIDIA 推出的 631M 参数模型，面向开发者。

S5-nano-GGUF

maritaca-ai · 工具包

用 2.8 到 8.7 GB 的 GGUF 文件，在 llama.cpp 和兼容应用里运行 Maritaca AI 的 S5-nano，这是一个针对巴西葡萄牙语调优、带函数调用和思考模式的 4B 模型。

Qwen3.8-27B-QSA-GGUF

higa2515 · 工具包

用 GGUF 文件运行带稀疏注意力的 Qwen3.8-27B，提供 Q8_0 和 Unsloth 的 Q4、Q5、Q6 混合版本，支持文字、图片和视频输入。适合使用 NVIDIA 显卡的 Linux 用户。

indra-ocr

datalab-to · 工具包

能在 CPU 上运行的小型 OCR 模型，把 PDF 和图片转成 markdown、文本，或带框的 JSON。能读手写和 80 多种语言。适合开发者和数据团队。

Clef

Cloudflare · 工具包

Cloudflare 的 27B 多模态模型，针对文本、JSON、图片或视频输入，为带类型的问题给出每个允许答案的分数，而不是写出自由文本。

stable-diffusion-xl-base-1.0

stabilityai · 工具包

Stability AI 的 SDXL 基础模型，通过 diffusers 库根据文字提示词生成和编辑图片，可单独使用，也可搭配精修模型。

Scylla's Band

spybyscript · 工具包

既能朗读又能按旋律谱演唱的文字转语音模型，有十四种声音、六种语言，可调强度、语速和音高。

Qwen3-Embedding-0.6B

Qwen · 工具包

把文字转成数字向量，用于搜索、检索、分类和聚类，支持 100 多种语言，包括编程语言。是 Qwen3 Embedding 系列里最小的 0.6B 参数文本嵌入模型。

YuE2-3B

m-a-p · 工具包

把歌词和风格提示词变成带人声和伴奏的完整歌曲，并让你通过乐谱编辑旋律和和弦。这是一个开放的 3.6B 音乐生成模型，支持英文和中文，仅限非商业使用。

Raon-1 nano (MLX)

KRAFTON · 工具包

提供适用于 Apple silicon 的 4-bit MLX 版 Raon-1 nano 权重，让开发者在 Mac 上本地运行韩英双语聊天模型。适合应用开发者和本地模型用户。

Ming-3.0-tts-0.5B

inclusionAI · 工具包

把文字转成七种语言的语音，包括中文和英文。它能用一段短音频复制声音，按描述设计新声音，并控制情绪、语速、音高和音量。

Arete-27B-GGUF

AtomicChat · 工具包

用六种尺寸的 GGUF 文件运行 Nous Research 的 Arete 27B，这是 Qwen3.8-27B 的微调版，能读文字和图像，并附有实测的质量损失。适合在自己 GPU 上运行大模型的人。

Spark-X2.6-4B-GGUF

XHToken · 工具包

面向设备端使用的紧凑 4B 语言模型的 GGUF 版本，针对编程、智能体和长上下文调校，有从无到高的三档思考级别。支持英文和中文。

Terminal-RSI-27B

Teriminal-RSI · 工具包

处理多步骤的终端任务，比如检查仓库、编辑代码和修复依赖。这是一个基于 Qwen3.8-27B 的 27.8B 参数智能体模型，面向研究者和智能体构建者。

MNN-Pocket-0.3B-GGUF

taobao-mnn · 工具包

用 192 到 726 MB 的 GGUF 文件运行一个紧凑的 0.3B 中英文语言模型，专为手机、笔记本等设备端使用而做，可配合 llama.cpp、LM Studio 或 ollama。

Ornith-1.5-35B-A3B-GGUF

ornith-ai · 工具包

运行一个面向编程和智能体任务的 35B 混合专家文本模型，每个词元只用约 3B 参数。这个仓库提供它的 GGUF 文件，供本地使用。

gemma-4-12B

google · 工具包

Google 的 Gemma 4 12B Unified 模型，是能读文字、图片、音频和视频并输出文字的开放模型，上下文 256K，不需要单独的编码器。适合运行本地 AI 的开发者。

PiVo-1.4M

empero-ai · 工具包

用两个合成声音 Pi 和 Vo 说英语，完整的文字转语音模型只有约 140 万参数，在 CPU 上运行，不需要网络连接。这是一个研究模型。

FLUX.2 [klein] 4B

black-forest-labs · 工具包

Black Forest Labs 的小型图像模型，能根据文字生成图片，也能参照图片编辑，速度快，适合在消费级显卡上做交互式使用。

bge-m3

BAAI · 工具包

把 100 多种语言的文字转成向量用于搜索，从短句到 8192 词元的文档都行。一个模型同时支持稠密、多向量和稀疏检索。由 BAAI 发布。

Qwen3.6-35B-A3B-GGUF

unsloth · 工具包

用 Unsloth 的 GGUF 文件运行 Qwen3.6-35B-A3B，这是能读图和文字的混合专家模型，每个词元只用约 3B 参数。适合在本地运行大模型的开发者。

Inkling-Small

thinkingmachines · 工具包

读取文字、图像和音频并用文字回答，面向开发助手、编程工具和智能体的开发者。这是稀疏混合专家模型，总参数 276B，每个词元激活 12B。

Sarvam-Prism

sarvamai · 工具包

针对一段文字提出的问题，一次前向计算就给出每个答案选项的概率。适合需要固定选项决策的团队，比如工单分派，要用大显存的 NVIDIA 显卡。

Qwen3.8-27B-FP8

Qwen · 工具包

用 Qwen3.8-27B 的 FP8 量化权重处理文字、图片和视频，它是带可调思考模式的 27B 稠密模型。适合用 transformers、vLLM 或 SGLang 部署它的开发者。

BotPsy-0.8B-GGUFs

qvac · 工具包

0.8B 工具调用模型 BotPsy 的 GGUF 版本，提供 BF16、Q8_0 和 Q4_K_M 三种文件，用 llama.cpp 在你自己的设备上完整运行智能体和函数调用任务。

Sharp-Spark-X2.6-4B-GGUF

peculiar-ragdoll · 工具包

在 6 GB 显存的显卡上运行支持长上下文的 4B 编程模型。这些 Spark-X2.6-4B 的 GGUF 量化版有三种大小，使用偏向编程的重要性矩阵。

gpt-oss-20b

openai · 工具包

根据文字提示词写作、推理并调用工具，是 OpenAI 的 21B 开放权重模型，可在 16 GB 内存内运行。适合想要本地或专用模型的开发者。

parakeet-ultra

moondream · 工具包

把语音转成文字，并给出句子和单词的时间戳。它是 moondream 对 NVIDIA parakeet-tdt-0.6b-v3 做后训练得到的版本，适合需要多语言准确转写的开发者。

Anima-RGBA

localai0301 · 工具包

通过 4 通道 VAE 和配套 LoRA，让 Anima 模型输出透明背景（RGBA）图像，用于 ComfyUI。适合需要带干净 alpha 通道的抠图的画师。

phonon-31m-en

gradium · 工具包

小型英文文字转语音模型，流式输出自然的 24 kHz 音频，可在笔记本 CPU、手机或浏览器标签页里运行。适合想在设备上出声的开发者。