开发者 AI 技能与智能体

Qwen2.5-VL-7B-Instruct

Qwen · 工具包

一个视觉语言模型，能把图片、文档和视频与文字问题一起理解并用文字回答。适合围绕图表、扫描件、屏幕和视频片段开发应用的开发者。

Xiaomi-OCR-0-GGUF

prithivMLmods · 工具包

提供 Xiaomi-OCR-0 的 GGUF 文件，这是一个用来读取文档和图片文字的 0.8B 紧凑视觉语言模型，大小从约 466 MB 到 1.52 GB。适合配合 llama.cpp 做本地 OCR。

Bonsai-1.7B-GGUF

prism-ml · 工具包

用一个每个权重只占 1 比特、约 0.24 GB 的 1.7B 语言模型生成文本，适用于 CUDA、Metal 和 CPU 上的 llama.cpp。适合需要微型本地模型的开发者。

Copernicus (31B)

Poindexter-Labs · 工具包

根据自然语言背景给出结构化决策：从选项中选一个、判断一个是非命题，或按评分标准给一项内容打分。适合构建智能体路由和分类的开发者。

MOSS-TTS-Nano

OpenMOSS-Team · 工具包

用一个只有 0.1B 参数、可以在 CPU 上运行的小模型把文字转成语音，支持声音克隆，覆盖 20 种语言。适合给本地或网页应用加上语音的开发者。

MiniCPM-V-4.7-1B-gguf

openbmb · 工具包

通过 llama.cpp 运行 1B 视觉语言模型，回答关于图片的文字提示词。提供多种量化大小的 GGUF 文件，适合想要小型本地模型的开发者和爱好者。

Qwen3.6-35B-A3B-8bit (MLX)

mlx-community · 工具包

Qwen3.6-35B-A3B 的 8 位 MLX 转换版，能读文字和图像并用文字回答，用 mlx-vlm 工具运行。适合想在本地运行大型视觉语言模型的开发者。

Voxtral 4B TTS 2603

mistralai · 工具包

Mistral 推出的开放权重文本转语音模型，提供九种语言的 20 个预设声音，支持流式输出，延迟低。适合构建语音智能体、且能接受非商业许可的开发者。

Pocket TTS

kyutai · 工具包

Kyutai 的 100M 参数文字转语音模型，在 CPU 上运行，支持六种语言，流式输出音频，首个音频块约 200 毫秒，可用 Python 或命令行。

multilingual-e5-large

intfloat · 工具包

把约 100 种语言的文本变成 1024 个数字的向量，用于搜索、匹配和检索。这是 intfloat 基于 xlm-roberta-large 的 5.6 亿参数嵌入模型。

K2-Horizon-7B-Uno

IFM · 工具包

给 IFM 的 K2-Horizon-7B 语言模型加上扩散通路的 LoRA 适配器，用于研究更快的文本生成。它只包含适配器，不含基础权重。

SmolLM2-135M

HuggingFaceTB · 工具包

用一个 1.35 亿参数、小到能在设备上运行的基础语言模型，根据提示续写英文文本。适合想用微型模型做测试或微调的开发者。

hs-embed-1

hindsight-ai · 工具包

把文本变成紧凑的向量，用于八种语言的搜索和匹配，输入最长 8,192 个 token。这是为 Hindsight 打造的 112M 小型嵌入模型，可在 CPU 或 GPU 上运行。

bekko-static-v1-slim-100k

flowercomputers · 工具包

用静态嵌入模型把文本变成 1024 维向量，词表精简到 25 种语言。不用 Transformer，就能快速做句子相似度和检索，可用 Python 或 Rust。

POCKET-35B-GGUF

FINAL-Bench · 工具包

用 llama.cpp 从 GGUF 文件在你自己的电脑上运行针对韩语调优的 35B 模型，有纯 CPU 路径，不需要 GPU。适合想在本地使用语言模型的人。

V-JEPA 2

facebook · 工具包

把视频和图片转成嵌入向量，用于视频分类、检索，或作为视觉语言模型的视频编码器。由 Meta 的 FAIR 打造，适合处理视频的开发者和研究人员。

MedErtas v0.1 31B LS

ErtasAI · 工具包

在 vLLM 和 NVIDIA Blackwell GPU 上运行面向医疗领域的语言模型，它是压缩后的 Gemma 4 31B。适合需要在考题、编码和答案核查任务上又快又省的医疗 AI 产品。

Kvark-Sparkle-1.0-27B-GGUF

Egzakta · 工具包

KVARK Sparkle 1.0 这个 27B 视觉语言模型的 GGUF 文件，适用于 llama.cpp、Ollama 和 LM Studio，保留了推测解码头。适合在本地运行大模型的人。

DistilBERT base uncased

distilbert · 工具包

从 BERT base 蒸馏出来的小而快的英文语言模型，有 67M 参数。能填补被遮住的词，主要用来针对分类、标注和问答进行微调。

Maximizing Model Performance 指南

DavidAU · 工具包

指导你为本地语言模型调节采样器和参数，并给出在 LM Studio、SillyTavern、Ollama 和 Koboldcpp 里设置系统提示词、推理模型和专家数量的步骤。