浏览 AI 技能、智能体和自动化

Qwen3.6-27B

Qwen · 工具包

Qwen 的 27B 模型，读取文字和图片并用文字回复，针对编程智能体和仓库级工作调校，适合用 transformers 库运行它的开发者。

Qwen3-Embedding-4B

Qwen · 工具包

把 100 多种语言的文字和代码变成向量，用于搜索、检索、分类和聚类，向量大小可调，还支持任务指令，适合构建搜索和 RAG 系统的开发者。

Qwen3-Coder-Next

Qwen · 工具包

作为编程智能体模型使用，总参数 80B、激活参数 3B，上下文 256K。适合在 CLI 和 IDE 工具里运行智能体、并想自己托管模型的开发者。

Qwen3-4B-Instruct-2507

Qwen · 工具包

用 4B 模型回答对话提示，不显示思考过程，可读取最多 256K token 的上下文。适合想要小型开源助手来做推理、编程和工具调用的开发者。

Qwen2.5-Coder-7B-Instruct

Qwen · 工具包

编写、解释和修复代码，是 Qwen2.5-Coder 系列里 7B 的指令微调成员。适合想要一个单张消费级 GPU 就能跑的开源编程模型的开发者。

Qwen2.5-1.5B-Instruct-GGUF

Qwen · 工具包

提供 Qwen2.5 1.5B 小型对话模型的 GGUF 文件，有八种量化大小，可用 llama.cpp 在笔记本或普通 GPU 上运行。适合想要轻量本地助手的人。

Qwen2.5-1.5B-Instruct

Qwen · 工具包

Qwen 的 1.5B 小型对话模型，能遵循指令、写代码和数学、输出 JSON 等结构化内容，支持超过 29 种语言。适合需要轻量模型的开发者。

Qwen3.5-0.8B-weight-space-programming-GGUF

prithivMLmods · 工具包

一个小型 Qwen3.5 0.8B 模型的 GGUF 版本，它的权重被直接修改以减少推理循环。适合想用多种量化大小在本地运行它的人。

Ornith-1.5-35B-A3B-GSQ-RCO-GGUF

pfeifferj · 工具包

把 Ornith-1.5-35B-A3B 文本模型压缩成 3 位和 3.5 位的 GGUF 文件，约 13 GB 和 15 GB，而不是 69 GB，适合用 llama.cpp 运行本地模型的人。

DeepSeek-V4.1-Flash-1017 Maya GGUF

peasantsmith · 工具包

通过为 Project Maya 制作的两种 GGUF 量化版本，在家用电脑上运行 748B 的 DeepSeek 混合专家模型。适合有大内存机器和高速 SSD 的人。

Seshat Agent

PCL-RSI-lab · 工具包

用一个会自我改进的编程智能体修复软件 bug，它从自己成功的运行中学习可复用的推理模式，适合做仓库级 bug 修复的开发者和研究人员。

MiniCPM5-2B-GGUF

openbmb · 工具包

提供 MiniCPM5-2B 的 GGUF 文件，这是一个支持中英文的小型稠密文本模型，适合在设备上和本地使用。适合想在普通硬件上用紧凑模型做编程、数学和工具调用的人。

ttf-Qwen3.8-Flash-Next-GGUF

oguzeldereli · 工具包

用一个 40.4 GB 的 GGUF 文件运行被压成三值权重的 180B 混合专家模型 Qwen3.8-Flash-Next，比 FP8 版本小 4.6 倍。适合配合打过补丁的 llama.cpp 在本地使用。

ttf-Qwen3.8-27B-GGUF

oguzeldereli · 工具包

把 Qwen3.8-27B 压缩成三值权重的 GGUF 文件，可在 12 GB 显卡上运行，有 8.2 GB 和 6.74 GB 两个版本。适合想在普通硬件上跑大型本地模型的人。

Hermes 4 14B

NousResearch · 工具包

Nous Research 的 14B 混合推理模型，基于 Qwen3-14B。它可以逐步思考、调用工具，并返回符合模式的 JSON。使用 ChatML 提示格式。

Hermes-3-Llama-3.1-8B-GGUF

NousResearch · 工具包

把 NousResearch 的 8B 通用聊天模型 Hermes 3 做成量化 GGUF 文件，供 llama.cpp 使用。适合想在本机用函数调用、结构化输出和代码帮助的人。

Hermes 3 Llama-3.1 8B

NousResearch · 工具包

Nous Research 基于 Llama 3.1 的 8B 通用对话模型，支持函数调用、结构化输出、角色扮演和代码辅助。适合想要一个可以自己运行、可引导的开放助手的开发者。

Qwen3.5-9B Brainwaves DeepThought STEM OneJev1.6

nightmedia · 工具包

nightmedia 制作的实验性 9.4B 图文模型，由三个 9B 模型合并而成，面向推理和理科问题。适合喜欢尝试小型开放合并模型的爱好者和研究者。

Kronos-base

NeoQuasar · 工具包

一个 102M 参数的金融蜡烛图（K 线）数据模型，可预测价格序列和波动率，也能生成合成数据。它属于 NeoQuasar 的 Kronos 系列，在来自 45 多个交易所的记录上训练。

AREX-2-i1-GGUF

mradermacher · 工具包

BAAI/AREX-2（一个 26.9B 的视觉模型）的加权 GGUF 量化版本，约有两打尺寸，从 7.2 GB 到 22.2 GB，另有一个用来制作你自己量化版本的 imatrix 文件。由 mradermacher 制作。