AI 智能体技能、规则与提示词工具包

evo2_7b

arcinstitute · 工具包

一个 7B 的 DNA 语言模型，可读取最长 100 万长度的序列，来自 Arc Institute 的 Evo 2 系列。适合处理基因组数据、想要中等大小检查点的研究者。

Qwen3.8-27B-Quark-AWQ-MXFP4

amd · 工具包

把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本，通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。

AMALIA-9B-0626-DPO

amalia-llm · 工具包

用欧洲葡萄牙语写作和回答，是葡萄牙高校推出的开源 9B 聊天模型，经监督微调和 DPO 调优。适合需要欧洲葡萄牙语语言模型的开发者和研究者。

Qwen3.5-35B-A3B-GGUF

unsloth · 工具包

在你自己的机器上读取文字和图片、编写代码并调用工具，使用 Unsloth 刷新后的 Qwen3.5 35B-A3B 视觉语言模型 GGUF 文件。适合运行本地智能体的开发者。

Hy-MT2-7B-GGUF

tencent · 工具包

在 33 种语言之间翻译文本并遵循翻译指令，是腾讯 7B 模型面向 llama.cpp 的 GGUF 版本。适合在本地运行翻译的开发者。

Hy-MT2-1.8B-GGUF

tencent · 工具包

在 33 种语言之间翻译文本并遵循翻译指令，是适用于 llama.cpp 的 1.8B GGUF 格式模型。适合想要一个小型本地翻译器的开发者。

Orukeet

oruk · 工具包

转写 25 种语言的语音，是 NVIDIA Parakeet TDT 模型的改造版，在作者的测试中词错误率更低。适合批量或实时转写录音的团队。

SmolLM2-360M

HuggingFaceTB · 工具包

用一个 3.62 亿参数、训练了 4 万亿词元、轻到能在设备上运行的基础语言模型，根据提示续写英文文本。适合想用小型基础模型做测试或微调的开发者。

Molmo2-8B

allenai · 工具包

回答关于图片、视频以及多张图片的问题，还能指出它找到的东西。适合想要开源 8B 视觉语言模型来做视频问答、计数和描述的开发者。

SMaLL-100

alirezamsh · 工具包

在很长的语言列表之间翻译文本，覆盖超过 10K 个语言对，模型比 M2M-100 小得多、快得多。适合需要紧凑多语言翻译的开发者和研究者。

Granite Speech 5.0 TurboCTC 470M GGUF

vladers · 工具包

把语音转成文字，支持七种语言，是 IBM Granite Speech 5.0 TurboCTC 470M 的量化 GGUF 版本，为 transcribe.cpp 制作。适合想加入本地听写或转录功能的开发者。

Qwen3.5-0.8B-MTP-GGUF

unsloth · 工具包

在 llama.cpp 里运行小型的 Qwen3.5 0.8B 视觉语言模型，借助多 token 预测加快生成，使用 Unsloth 的 GGUF 文件。适合测试推测解码的开发者。

GameScaling

THUSI-Lab · 工具包

基于 Qwen3.5-0.8B 的小型视觉语言模型，来自一个面向多种虚拟游戏世界中具身智能体的持续预训练研究项目。适合研究游戏智能体的研究者。

Indic Multilingual Turn Detector

tarun7r · 工具包

读取语音转文字的转写文本，判断说话人是否已说完这一轮，支持英语、Hinglish 和七种印度语言。面向语音智能体和呼叫中心开发者。

MNN-Pocket-0.3B-Base

taobao-mnn · 工具包

约 300M 参数的预训练基础语言模型，支持中文和英文，与 MNN 推理引擎一起设计，面向设备端使用，可作为继续训练或微调的起点。

Bielik-11B-v3.1-DFlash2

speakleash · 工具包

作为草稿模型与 Bielik-11B-v3.1-Instruct 配对，在 SGLang 或 vLLM 中做推测解码。它不是独立的语言模型。

Bielik-11B-v3.1-DFlash

speakleash · 工具包

作为 DFlash 草稿模型，与 Bielik-11B-v3.1-Instruct 配对，在 SGLang 或 vLLM 里做推测解码。它不是独立的语言模型。适合自己部署 Bielik 的人。

Kimi-K3.1-Dflash2-Preview

RadixArk · 工具包

通过起草一块 token 让主模型一次验证，来加快 Kimi-K3.1-Pro 的推理服务。这是给 SGLang 用户的草稿模型，与目标模型配合使用，不是独立的语言模型。

Qwen3Guard-Stream-0.6B

Qwen · 工具包

这个模型在语言模型还在写字的时候逐个 token 检查文本的安全性，把每一部分判为安全、有争议或不安全，覆盖 119 种语言和方言。适合要给聊天或生成应用加上实时内容审核的开发者。

Qwen3Guard-Gen-0.6B

Qwen · 工具包

一个小型安全审核模型，把提示或模型回复标为安全、有争议或不安全，并指出风险类别，支持 119 种语言。适合筛查聊天输入和输出的开发者。

Qwen3-Embedding-0.6B-GGUF

Qwen · 工具包

这个 0.6B 的 GGUF 格式模型把文本变成数字向量，用于 100 多种语言的搜索、检索和聚类。适合要在自己机器上做搜索或相似度功能的开发者。

Qwen3-1.7B-Base

Qwen · 工具包

作为 1.7B 的基础语言模型来续写文本和代码，预训练覆盖 119 种语言。适合想用小模型做微调或测试的开发者。

Qwen2.5-VL-7B-Instruct

Qwen · 工具包

一个视觉语言模型，能把图片、文档和视频与文字问题一起理解并用文字回答。适合围绕图表、扫描件、屏幕和视频片段开发应用的开发者。

Xiaomi-OCR-0-GGUF

prithivMLmods · 工具包

提供 Xiaomi-OCR-0 的 GGUF 文件，这是一个用来读取文档和图片文字的 0.8B 紧凑视觉语言模型，大小从约 466 MB 到 1.52 GB。适合配合 llama.cpp 做本地 OCR。

Bonsai-1.7B-GGUF

prism-ml · 工具包

用一个每个权重只占 1 比特、约 0.24 GB 的 1.7B 语言模型生成文本，适用于 CUDA、Metal 和 CPU 上的 llama.cpp。适合需要微型本地模型的开发者。

Copernicus (31B)

Poindexter-Labs · 工具包

根据自然语言背景给出结构化决策：从选项中选一个、判断一个是非命题，或按评分标准给一项内容打分。适合构建智能体路由和分类的开发者。

MOSS-TTS-Nano

OpenMOSS-Team · 工具包

用一个只有 0.1B 参数、可以在 CPU 上运行的小模型把文字转成语音，支持声音克隆，覆盖 20 种语言。适合给本地或网页应用加上语音的开发者。

MiniCPM-V-4.7-1B-gguf

openbmb · 工具包

通过 llama.cpp 运行 1B 视觉语言模型，回答关于图片的文字提示词。提供多种量化大小的 GGUF 文件，适合想要小型本地模型的开发者和爱好者。

OpenAI GPT 1

openai-community · 工具包

用 OpenAI 发布的第一个 transformer 语言模型续写你开头的英文文本，参数量 120M。适合研究早期语言模型或学习 transformers 库的人。

NVIDIA NemotronLabs RE-USE-laughter

nvidia · 工具包

清理多语言的嘈杂语音录音，同时保留笑声。这是一个 9.6M 参数的语音增强模型，适合修音频的创作者和准备语音数据集的研究人员。

Qwen3.6-35B-A3B-8bit (MLX)

mlx-community · 工具包

Qwen3.6-35B-A3B 的 8 位 MLX 转换版，能读文字和图像并用文字回答，用 mlx-vlm 工具运行。适合想在本地运行大型视觉语言模型的开发者。

Voxtral 4B TTS 2603

mistralai · 工具包

Mistral 推出的开放权重文本转语音模型，提供九种语言的 20 个预设声音，支持流式输出，延迟低。适合构建语音智能体、且能接受非商业许可的开发者。

VibeVoice-ASR

microsoft · 工具包

微软研究院的 8.7B 语音转文字模型，一次可转写最长 60 分钟的音频，说明谁在什么时间说了什么，支持可选的热词和超过 50 种语言。

Pocket TTS

kyutai · 工具包

Kyutai 的 100M 参数文字转语音模型，在 CPU 上运行，支持六种语言，流式输出音频，首个音频块约 200 毫秒，可用 Python 或命令行。

multilingual-e5-large

intfloat · 工具包

把约 100 种语言的文本变成 1024 个数字的向量，用于搜索、匹配和检索。这是 intfloat 基于 xlm-roberta-large 的 5.6 亿参数嵌入模型。

K2-Horizon-7B-Uno

IFM · 工具包

给 IFM 的 K2-Horizon-7B 语言模型加上扩散通路的 LoRA 适配器，用于研究更快的文本生成。它只包含适配器，不含基础权重。

SmolLM2-135M

HuggingFaceTB · 工具包

用一个 1.35 亿参数、小到能在设备上运行的基础语言模型，根据提示续写英文文本。适合想用微型模型做测试或微调的开发者。

Carbon-X

HuggingFaceBio · 工具包

在聊天里读取原始 DNA 并用英文回答，判断变异看起来是良性还是致病，适合想在自己 GPU 上运行 DNA 语言模型的研究人员。

Crystal-31B-RL

hiwaifu-research · 工具包

从 Gemma 4 31B-IT 后训练而来的角色扮演聊天模型，用用户的语言回复，无论是俄语、西班牙语、英语还是葡萄牙语，并一直保持这种语言。可处理图像和文字。

hs-embed-1

hindsight-ai · 工具包

把文本变成紧凑的向量，用于八种语言的搜索和匹配，输入最长 8,192 个 token。这是为 Hindsight 打造的 112M 小型嵌入模型，可在 CPU 或 GPU 上运行。

bekko-static-v1-slim-100k

flowercomputers · 工具包

用静态嵌入模型把文本变成 1024 维向量，词表精简到 25 种语言。不用 Transformer，就能快速做句子相似度和检索，可用 Python 或 Rust。

POCKET-35B-GGUF

FINAL-Bench · 工具包

用 llama.cpp 从 GGUF 文件在你自己的电脑上运行针对韩语调优的 35B 模型，有纯 CPU 路径，不需要 GPU。适合想在本地使用语言模型的人。

V-JEPA 2

facebook · 工具包

把视频和图片转成嵌入向量，用于视频分类、检索，或作为视觉语言模型的视频编码器。由 Meta 的 FAIR 打造，适合处理视频的开发者和研究人员。

NLLB-200 3.3B

facebook · 工具包

在 200 种语言之间翻译单个句子，重点关注低资源语言。这是 facebook 发布的研究模型，面向机器翻译研究者，不用于生产环境或认证翻译。

MedErtas v0.1 31B LS

ErtasAI · 工具包

在 vLLM 和 NVIDIA Blackwell GPU 上运行面向医疗领域的语言模型，它是压缩后的 Gemma 4 31B。适合需要在考题、编码和答案核查任务上又快又省的医疗 AI 产品。

Kvark-Sparkle-1.0-27B-GGUF

Egzakta · 工具包

KVARK Sparkle 1.0 这个 27B 视觉语言模型的 GGUF 文件，适用于 llama.cpp、Ollama 和 LM Studio，保留了推测解码头。适合在本地运行大模型的人。

DistilBERT base uncased

distilbert · 工具包

从 BERT base 蒸馏出来的小而快的英文语言模型，有 67M 参数。能填补被遮住的词，主要用来针对分类、标注和问答进行微调。

Maximizing Model Performance 指南

DavidAU · 工具包

指导你为本地语言模型调节采样器和参数，并给出在 LM Studio、SillyTavern、Ollama 和 Koboldcpp 里设置系统提示词、推理模型和专家数量的步骤。

Qwen3.8-27B-AWQ-INT4

cyankiwi · 工具包

cyankiwi 制作的 Qwen3.8-27B 4-bit AWQ 量化版本，一个带思考控制的 27B 视觉语言模型。权重为 21.02 GB，可在 Transformers、vLLM 或 SGLang 中加载。

cbx-indic-pii-extractor-17M

CobuildX-AI · 工具包

在印度语言和印度英语文本中找出姓名、电话号码、Aadhaar 和 PAN 等个人信息，并返回每个值的位置。这是一个 16.7M 参数、能在 CPU 上运行的模型。