开发者 AI 技能与智能体

Llama-3.2-3B-Instruct-GGUF

bartowski · 工具包

bartowski 用重要性矩阵为 Meta 的 Llama-3.2-3B-Instruct 制作的 GGUF 量化版本，大小约从 1.8 GB 到 6.4 GB。适合用 llama.cpp 或 LM Studio 在本地运行小型聊天模型。

KAT-Coder-V2.5-Dev GGUF

bartowski · 工具包

Kwaipilot 的 KAT-Coder-V2.5-Dev 的 imatrix GGUF 量化版本，这是一个 34.7B 文本模型，4 位文件约 19 GB 起。适合在本地运行名字里带 Coder 的大模型的人。

bge-small-zh-v1.5

BAAI · 工具包

把中文文本变成稠密向量，用于搜索、分类、聚类和语义匹配。这是 BAAI 的 24M 参数 BGE 嵌入模型，MIT 许可证，F32 下约 96 MB。

safetensored-upscalers

AshtakaOOf · 工具包

把图像放大模型和少量其他图像到图像模型收集在一个仓库里，以 safetensors 文件提供，由旧的 pickle 文件转换而来。适合在自己电脑上运行放大模型的人。

whisperkit-coreml

argmaxinc · 工具包

收录 WhisperKit 使用的 Core ML 语音识别模型，在 Apple Silicon 上无需服务器就能把音频转成文字。适合想让转写留在设备上的 Apple 应用开发者。

Ling-3.1-flash-DSpark

AQ-MedAI · 工具包

一个小型草稿模型，通过 SGLang 里的推测解码加速 Ling-3.1-Flash，每次草拟 5 个或 7 个 token。适合在 NVIDIA GPU 上部署 Ling-3.1-Flash 的团队。

DeepSeek V4.1 Flash GGUF for DwarfStar

antirez · 工具包

为 Mac 用户提供 DeepSeek V4.1 Flash 经过校准的 2 位和 4 位 GGUF 文件，另有单独的视觉编码器，供 DwarfStar 的 Metal 引擎配合 SSD 流式加载使用。与其他 DeepSeek 权重不通用。

Molmo2-4B

allenai · 工具包

回答关于图片、视频和多张图片的问题，还能指出它找到的内容。这是 Ai2 的开源视觉语言模型，适合自己运行模型的开发者和研究者。

Signal 3.8 27B

agentionai · 工具包

比 Qwen3.8-27B 回答更简短直接，使用更少的回答和思考 token，因此回复结束得更早。这是一次轻量微调，可以直接用在与基础模型相同的工具里。

Jocasta-diff-VLA

RobotLearningLab · 工具包

把 Dream-VLA-7B 适配到 robosuite 中八类模拟 Panda 机械臂任务的机器人控制策略，使用 Flow Matching 动作头。适合有 CUDA GPU 的机器人研究者。

G4-LuneLight-31B

zerofata · 工具包

提供一个 31.3B 参数的语言模型，基于 ReadyArt 的 gemma-4-31B-it-scotoma-2，适合在自己硬件上运行模型的人。这里的模型卡文字没有说明它的用途。

GLM-5.3-Flash-BF16

zai-org · 工具包

一个 320B 参数、激活 18B 的多模态模型，能读文字和图像，思考预算可调，用混合注意力设计处理长上下文。适合有像样 GPU 基础设施的团队。

GLM-5.2

zai-org · 工具包

zai-org 推出的 753B 参数开放文本模型，适合编程和智能体这类长链条多步工作，有 1M 词元上下文，采用 MIT 许可证。适合拥有大型 GPU 集群的团队。

Forge-1-Gemma-4-E2B

YoSaNoo · 工具包

一个从 Google 的 gemma-4-E2B 微调而来的小型文本模型，偏向写代码，以 GGUF 文件发布，可在 Ollama、LM Studio、Unsloth 或 Jan 中在自己的笔记本上运行。

Qwen3.8-27B-CodeForge-3xMerge

xtools-at · 工具包

用三个 Qwen3.8-27B 微调版本加权合并而成的模型，可编写和解释代码，也能处理推理问题。适合想用一个通用模型做编程和聊天的开发者。

Spark-X2.6-1.7B-DSpark-GGUF

XHToken · 工具包

一个小型草稿模型，通过推测解码加速 Spark-X2.6-1.7B，每步最多猜 7 个 token。适合在支持它的 llama.cpp 构建上本地运行该模型的人。

Wan2.1-VACE-1.3B

Wan-AI · 工具包

用 Wan2.1 的 VACE 模型根据提示词、静态图片或已有片段制作和编辑视频，视频里还能出现中英文文字。适合有消费级 GPU 的视频创作者和开发者。

TripoSplat

VAST-AI · 工具包

把单张 2D 图片变成数量可变的 3D 高斯，用于资产创作、AR 和 VR、游戏和仿真。VAST-AI 出品，适合 3D 创作者和开发者。

Llama-3.2-1B-Instruct-GGUF

unsloth · 工具包

在笔记本上聊天、总结和回答文字问题，是 Unsloth 提供的 Meta 小型 Llama 3.2 1B Instruct 的 GGUF 副本，精度从 16 比特到 2 比特。适合开发者和学习者。

GLM-4-9B-0414-GGUF

unsloth · 工具包

用 9.4B 的 GLM-4-9B-0414 模型的 GGUF 文件生成中文和英文文本，适合想在自己电脑上运行 GLM 模型的人。