浏览 AI 技能、智能体和自动化

Bonsai-27B-GGUF

lmstudio-community · 工具包

面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版，含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。

mmBERT-base

jhu-clsp · 工具包

能读取并编码 1,800 多种语言的文本，用于分类、嵌入、检索和完形填空任务。适合要微调多语言编码器的开发者和研究者。

Spark-X2.6-1.7B-Base

XHToken · 工具包

一个紧凑的 1.7B 语言模型，面向设备端使用，支持英文和中文，在编程、智能体任务和长上下文上有提升，并有三档可调的思考级别。适合在本地运行模型的开发者。

Spark-X2.5-4B

XHToken · 工具包

一个紧凑的 4.1B 通用语言模型，原生支持 1M token 上下文和 200 多种语言，采用混合注意力设计，针对编码和智能体使用调校。适合想要小型开放模型的开发者。

SmolLM3-3B-GGUF

unsloth · 工具包

用 SmolLM3 聊天和推理，这是个完全开放的 3B 模型，可以一步步思考，也可以直接回答，提供 Unsloth 制作的 GGUF 文件，带聊天模板修复。能处理长文本和六种语言。

Hy-MT2-1.8B-1.25Bit-GGUF

tencent · 工具包

在你自己的设备上用压缩到 1.25 比特的 1.8B 模型进行 33 种语言之间的翻译，GGUF 文件约 440 MB，适用于 llama.cpp。适合给应用加入离线翻译的开发者。

AuK

tencent · 工具包

腾讯的 1.5B 语音模型，可以根据文本生成语音、编辑录音，还能做音频增强和声源分离，全部通过自然语言指令完成。

Qwen3-TTS GGUF

Serveurperso · 工具包

这个模型通过 C++ 运行时 qwentts.cpp，在 CPU、CUDA、Metal 或 Vulkan 上用多种语言朗读文本，有命名说话人和普通话方言，还能用一段短录音克隆声音。适合想在本地做文字转语音的开发者。

BeeLLM

schizophyllume · 工具包

提供一组会发出蜜蜂嗡嗡声的小型 GGUF 语言模型，有只会嗡嗡的小蜜蜂、带情绪标签的蜜蜂，以及蜂后与工蜂相连的蜂巢。适合喜欢超小模型的爱好者和开发者。

Sarvam-30B

sarvamai · 工具包

Sarvam AI 的混合专家语言模型，总参数 322 亿，每个词元激活 24 亿，面向英语和多种印度语言的实际使用。模型卡的示例代码需要 NVIDIA 显卡。

Sarvam-105B GGUF

sarvamai · 工具包

Sarvam-105B 的 GGUF 版本，一个重视印度语言的大型混合专家模型，按 4 位拆成 9 个分片，供 llama.cpp 使用。适合内存充足、想用大型开源模型的人。

Qwen3.8-27B-mixed-3.5bpw-MLX

rapid-mlx · 工具包

一个压缩到每个权重 3.5 位的 27B 视觉语言模型，适用于 24 GB 内存的 Apple Silicon Mac，通过 Rapid-MLX 在本地提供服务。适合想要本地模型和智能体后端的 Mac 用户和开发者。

Qwen3.5-122B-A10B

Qwen · 工具包

这个模型同时读图像和文字并用文字回答，是总参数 122B、激活参数 10B 的混合专家模型。适合有大型 GPU 服务器、想用开源视觉语言模型做推理、编程和智能体的团队。

Qwen3-8B-MLX-bf16

Qwen · 工具包

通过 mlx 库运行 Qwen3 8B 语言模型，用于聊天、推理、翻译和智能体任务。适合想在本地使用可切换思考模式的文本模型的开发者。

Qwen2.5-Coder-7B

Qwen · 工具包

作为 7.6B 的基础语言模型来补全和生成代码，开发者可以运行它、微调它，或用于代码中间填充任务。适合制作编程工具的人。

Qwen2.5-0.5B

Qwen · 工具包

Qwen2.5 里最小的基础模型，约 4.94 亿参数，上下文 32,768 个词元，用来在你自己的数据上继续训练。适合想在微型语言模型上搭建的开发者。

deberta-v3-base-prompt-injection-v2

protectai · 工具包

识别企图劫持语言模型的英文文本，把每条输入标为正常或提示词注入。适合在 LLM 应用里筛查用户输入的开发者。

IndiCodec

prakharkhatri · 工具包

把语音变成两路紧凑的词元，再还原成 24 kHz 音频，码率 1.09 kbps，重点支持英语和十种印度语言。适合语音研究人员和文字转语音的开发者。

MOSS-TTS-v1.5

OpenMOSS-Team · 工具包

用 31 种语言朗读文字，并能用一小段参考音频克隆声音，支持语言标签和明确的停顿标记。适合给产品加入语音的配音人员、配音团队和开发者。

MOSS-TTS

OpenMOSS-Team · 工具包

用八种语言朗读文字，支持零样本声音克隆、长篇语音，并可控制发音和时长。适合音频制作人和开发语音功能的开发者。

OpenEuroLLM Prelude-base 9B

openeurollm · 工具包

一个实验性 9B 基础语言模型的中间训练检查点，用 10T 词元训练，以英文为主并含一部分多语言内容。适合关注欧洲开源模型训练的研究者。

Confucius4-TTS

netease-youdao · 工具包

用 14 种语言朗读你的文字，还能在不同语言之间复制参考声音，无需额外训练。这是网易有道的语音合成系统，适合开发者和创作者。只能使用你有权使用的声音。

KLM 1.5

MinimaLabs · 工具包

一个 99M 参数的基础语言模型，从零开始在 100B token 上训练，采用混合注意力设计。适合想运行、研究或微调一个极小开放模型的研究人员和爱好者。

Phi-4

microsoft · 工具包

Microsoft Research 推出的 14B 开放语言模型，针对计算资源有限时的英语推理和对话做了调整。适合给应用添加文本功能，或研究中等规模模型的开发者。

harrier-oss-v1-27b

microsoft · 工具包

把多种语言的文本转成嵌入向量，用于搜索、聚类、相似度、分类和重排序。适合做语义搜索或检索、并且能部署 27B 模型的开发者。

askmdb-9b-GGUF

manuelgscom · 工具包

根据西班牙语或英语的日常提问，写出只读的 MongoDB 聚合管道。这是 Qwen3.5-9B 微调版的 GGUF 副本，可用 llama.cpp 在本地运行，适合想用日常语言查询数据的开发者。

mSlideOn

lightonai · 工具包

把查询和文档变成可用倒排索引检索的稀疏向量，支持多种语言和长文本。这是一个 339M 参数的多语言检索模型，适合构建搜索的人。

tinyllamas

karpathy · 工具包

提供一系列采用 Llama 2 设计、在 TinyStories 数据集上训练的小型语言模型，为 Karpathy 的 llama2.c 项目而做。适合想试试小模型的开发者。

Qwen3.8-27B-oQ4e-mtp

Jundot · 工具包

在 MLX 上以约 17.5 GB 运行 27B 的 Qwen3.8 视觉语言模型，能读取文字、图片和视频，上下文为 262,144 个 token。这是 Jundot 的混合精度量化版本，适合内存有限的人。

Agents-A1

InternScience · 工具包

作为一个 35B 开放权重语言模型，负责多步骤智能体工作：规划、搜索、调用工具和科学推理。适合要把模型接入会调用工具的智能体的开发者。

Flint-DFlash2

incoai · 工具包

一个 403M 参数的草稿模型，用 SGLang 里的推测解码加快 Flint 语言模型的服务速度，并且不改变输出。它不是独立的模型。

Ming-3.0-audio-tiny

inclusionAI · 工具包

听音频并按文字指令用文字作答，还可选择语音回复。这是 inclusionAI 的紧凑音频语言模型，适合做中英文语音识别、语音提问和音频理解。

ibnsina-1.5b

ibnsina-llm · 工具包

一个小型波斯语语言模型，可离线写作、摘要、翻译和聊天，主要用波斯语文本从零训练。可通过 ollama、LM Studio 或 llama.cpp 在笔记本上运行。

Granite-4.0-H-350M

ibm-granite · 工具包

用 IBM 推出的 340M 参数指令模型处理摘要、分类、抽取、问答、RAG、代码任务和工具调用，支持 12 种语言。适合需要紧凑设备端模型的开发者。

ALLaM-7B-Instruct-preview

humain-ai · 工具包

用阿拉伯语和英语回答问题、遵循指令。这是沙特数据与人工智能管理局（SDAIA）下属国家人工智能中心从零训练的 7B 模型，适合构建阿拉伯语工具的开发者和研究人员。

hs-rerank-1

hindsight-ai · 工具包

给每份文档回答查询的程度打分，支持八种语言，输入最长 8,192 个 token，让搜索或记忆系统把最匹配的结果排在前面。适合构建检索功能的开发者。

MOSS-Transcribe-Diarize 0.9B

hf-audio · 工具包

一次处理就能转写多说话人的长录音，并加上时间戳和匿名说话人标签，支持 50 多种语言。适合把会议、电话、播客和讲座变成易读文字稿的团队。

BERT multilingual base model (cased)

google-bert · 工具包

在 104 种语言中补全被遮蔽的词并提取文本特征。这是区分大小写的 BERT 基础模型，用于微调后做分类、标注和问答。

bert-base-chinese

google-bert · 工具包

预测中文文本中被遮住的词，是 Google 针对中文预训练的 BERT base 模型。适合构建中文语言工具或为中文任务微调模型的开发者和研究人员。

Ninada

gnumanth · 工具包

用 12 种语言朗读文本，包括梵语、印度英语、印地语和泰米尔语，24 kHz 的声音可在浏览器或手机上运行。有两档 ONNX，一档给桌面，一档给手机。

SaulLM-54B-Instruct

Equall · 工具包

针对法律文本调优的语言模型，用美国和欧洲的法律资料训练。这是面向研究和改造法律 AI 的研究版本。它的回答仅供参考，不是法律意见。

ARK-ASR-3B

Edge0 · 工具包

用 Whisper 风格的音频编码器加 Qwen 解码器，把多种语言的语音转成文字。适合需要多语言转写的开发者和研究者，卡里给出了英文和中文的结果。

Rukopys-OCR-4B

ebinan92 · 工具包

从图片中读取乌克兰语手写文档，找出每个文字区域、标注类型，并以结构化 JSON 返回转写内容。这是用于手写数字化的开放 4B 视觉语言模型。

lift

datalab-to · 工具包

从 PDF 和图像中提取结构化数据。你提供一个 JSON 模式，它返回与之匹配的对象。这是 Datalab 的 9.7B 视觉语言模型，适合处理文档的开发者。

PLLuM-12B-chat-2512

CYFRAGOVPL · 工具包

PLLuM 系列的波兰语聊天模型，按人类偏好调优，适合对话、问答和摘要，并关注波兰公共服务场景。

Qwen3-ASR-1.7B GGUF

cstr · 工具包

用 Qwen3-ASR-1.7B 的量化 GGUF 文件，在 CrispASR 里把语音、歌声和歌曲转成文字或英文。适合想在本地转写 30 种语言和 22 种中文方言的人。

Anuvani-LID

CIIL · 工具包

识别音频片段里说的是印度 22 种官方语言还是印度英语，并给出校准过的分数。适合构建多语言语音流水线的开发者。

SalamandraTA-7b-instruct

BSC-LT · 工具包

一个 7.8B 的翻译模型，支持 40 种语言和 3 种变体，可做句子、段落和文档翻译，也能处理 HTML 或 XML 文本。适合想要本地翻译器的开发者和研究人员。

Llama-3.2-1B-Instruct GGUF

bartowski · 工具包

Llama-3.2-1B-Instruct 的 GGUF 量化版本，这是一个支持八种语言的 1.2B 文本模型，4 位文件约 0.8 GB。适合运行微型本地模型的人。

Ming 3.0 TTS 0.5B GGUF

audio-cpp · 工具包

为 audio.cpp 运行时打包的 Ming 3.0 TTS 0.5B GGUF：文字转语音、声音克隆和声音设计，支持七种语言，输出单声道 44.1 kHz，不需要 Python 运行环境。适合开发者。

evo2_7b

arcinstitute · 工具包

一个 7B 的 DNA 语言模型，可读取最长 100 万长度的序列，来自 Arc Institute 的 Evo 2 系列。适合处理基因组数据、想要中等大小检查点的研究者。

Qwen3.8-27B-Quark-AWQ-MXFP4

amd · 工具包

把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本，通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。

AMALIA-9B-0626-DPO

amalia-llm · 工具包

用欧洲葡萄牙语写作和回答，是葡萄牙高校推出的开源 9B 聊天模型，经监督微调和 DPO 调优。适合需要欧洲葡萄牙语语言模型的开发者和研究者。

Qwen3.5-35B-A3B-GGUF

unsloth · 工具包

在你自己的机器上读取文字和图片、编写代码并调用工具，使用 Unsloth 刷新后的 Qwen3.5 35B-A3B 视觉语言模型 GGUF 文件。适合运行本地智能体的开发者。

Hy-MT2-7B-GGUF

tencent · 工具包

在 33 种语言之间翻译文本并遵循翻译指令，是腾讯 7B 模型面向 llama.cpp 的 GGUF 版本。适合在本地运行翻译的开发者。

Hy-MT2-1.8B-GGUF

tencent · 工具包

在 33 种语言之间翻译文本并遵循翻译指令，是适用于 llama.cpp 的 1.8B GGUF 格式模型。适合想要一个小型本地翻译器的开发者。

Orukeet

oruk · 工具包

转写 25 种语言的语音，是 NVIDIA Parakeet TDT 模型的改造版，在作者的测试中词错误率更低。适合批量或实时转写录音的团队。

SmolLM2-360M

HuggingFaceTB · 工具包

用一个 3.62 亿参数、训练了 4 万亿词元、轻到能在设备上运行的基础语言模型，根据提示续写英文文本。适合想用小型基础模型做测试或微调的开发者。

Molmo2-8B

allenai · 工具包

回答关于图片、视频以及多张图片的问题，还能指出它找到的东西。适合想要开源 8B 视觉语言模型来做视频问答、计数和描述的开发者。

SMaLL-100

alirezamsh · 工具包

在很长的语言列表之间翻译文本，覆盖超过 10K 个语言对，模型比 M2M-100 小得多、快得多。适合需要紧凑多语言翻译的开发者和研究者。

Granite Speech 5.0 TurboCTC 470M GGUF

vladers · 工具包

把语音转成文字，支持七种语言，是 IBM Granite Speech 5.0 TurboCTC 470M 的量化 GGUF 版本，为 transcribe.cpp 制作。适合想加入本地听写或转录功能的开发者。

Qwen3.5-0.8B-MTP-GGUF

unsloth · 工具包

在 llama.cpp 里运行小型的 Qwen3.5 0.8B 视觉语言模型，借助多 token 预测加快生成，使用 Unsloth 的 GGUF 文件。适合测试推测解码的开发者。

GameScaling

THUSI-Lab · 工具包

基于 Qwen3.5-0.8B 的小型视觉语言模型，来自一个面向多种虚拟游戏世界中具身智能体的持续预训练研究项目。适合研究游戏智能体的研究者。

Indic Multilingual Turn Detector

tarun7r · 工具包

读取语音转文字的转写文本，判断说话人是否已说完这一轮，支持英语、Hinglish 和七种印度语言。面向语音智能体和呼叫中心开发者。

MNN-Pocket-0.3B-Base

taobao-mnn · 工具包

约 300M 参数的预训练基础语言模型，支持中文和英文，与 MNN 推理引擎一起设计，面向设备端使用，可作为继续训练或微调的起点。

Bielik-11B-v3.1-DFlash2

speakleash · 工具包

作为草稿模型与 Bielik-11B-v3.1-Instruct 配对，在 SGLang 或 vLLM 中做推测解码。它不是独立的语言模型。

Bielik-11B-v3.1-DFlash

speakleash · 工具包

作为 DFlash 草稿模型，与 Bielik-11B-v3.1-Instruct 配对，在 SGLang 或 vLLM 里做推测解码。它不是独立的语言模型。适合自己部署 Bielik 的人。

Kimi-K3.1-Dflash2-Preview

RadixArk · 工具包

通过起草一块 token 让主模型一次验证，来加快 Kimi-K3.1-Pro 的推理服务。这是给 SGLang 用户的草稿模型，与目标模型配合使用，不是独立的语言模型。

Qwen3Guard-Stream-0.6B

Qwen · 工具包

这个模型在语言模型还在写字的时候逐个 token 检查文本的安全性，把每一部分判为安全、有争议或不安全，覆盖 119 种语言和方言。适合要给聊天或生成应用加上实时内容审核的开发者。

Qwen3Guard-Gen-0.6B

Qwen · 工具包

一个小型安全审核模型，把提示或模型回复标为安全、有争议或不安全，并指出风险类别，支持 119 种语言。适合筛查聊天输入和输出的开发者。

Qwen3-Embedding-0.6B-GGUF

Qwen · 工具包

这个 0.6B 的 GGUF 格式模型把文本变成数字向量，用于 100 多种语言的搜索、检索和聚类。适合要在自己机器上做搜索或相似度功能的开发者。

Qwen3-1.7B-Base

Qwen · 工具包

作为 1.7B 的基础语言模型来续写文本和代码，预训练覆盖 119 种语言。适合想用小模型做微调或测试的开发者。

Qwen2.5-VL-7B-Instruct

Qwen · 工具包

一个视觉语言模型，能把图片、文档和视频与文字问题一起理解并用文字回答。适合围绕图表、扫描件、屏幕和视频片段开发应用的开发者。

Xiaomi-OCR-0-GGUF

prithivMLmods · 工具包

提供 Xiaomi-OCR-0 的 GGUF 文件，这是一个用来读取文档和图片文字的 0.8B 紧凑视觉语言模型，大小从约 466 MB 到 1.52 GB。适合配合 llama.cpp 做本地 OCR。

Bonsai-1.7B-GGUF

prism-ml · 工具包

用一个每个权重只占 1 比特、约 0.24 GB 的 1.7B 语言模型生成文本，适用于 CUDA、Metal 和 CPU 上的 llama.cpp。适合需要微型本地模型的开发者。

Copernicus (31B)

Poindexter-Labs · 工具包

根据自然语言背景给出结构化决策：从选项中选一个、判断一个是非命题，或按评分标准给一项内容打分。适合构建智能体路由和分类的开发者。

MOSS-TTS-Nano

OpenMOSS-Team · 工具包

用一个只有 0.1B 参数、可以在 CPU 上运行的小模型把文字转成语音，支持声音克隆，覆盖 20 种语言。适合给本地或网页应用加上语音的开发者。

MiniCPM-V-4.7-1B-gguf

openbmb · 工具包

通过 llama.cpp 运行 1B 视觉语言模型，回答关于图片的文字提示词。提供多种量化大小的 GGUF 文件，适合想要小型本地模型的开发者和爱好者。

OpenAI GPT 1

openai-community · 工具包

用 OpenAI 发布的第一个 transformer 语言模型续写你开头的英文文本，参数量 120M。适合研究早期语言模型或学习 transformers 库的人。

NVIDIA NemotronLabs RE-USE-laughter

nvidia · 工具包

清理多语言的嘈杂语音录音，同时保留笑声。这是一个 9.6M 参数的语音增强模型，适合修音频的创作者和准备语音数据集的研究人员。

Qwen3.6-35B-A3B-8bit (MLX)

mlx-community · 工具包

Qwen3.6-35B-A3B 的 8 位 MLX 转换版，能读文字和图像并用文字回答，用 mlx-vlm 工具运行。适合想在本地运行大型视觉语言模型的开发者。

Voxtral 4B TTS 2603

mistralai · 工具包

Mistral 推出的开放权重文本转语音模型，提供九种语言的 20 个预设声音，支持流式输出，延迟低。适合构建语音智能体、且能接受非商业许可的开发者。

VibeVoice-ASR

microsoft · 工具包

微软研究院的 8.7B 语音转文字模型，一次可转写最长 60 分钟的音频，说明谁在什么时间说了什么，支持可选的热词和超过 50 种语言。

Pocket TTS

kyutai · 工具包

Kyutai 的 100M 参数文字转语音模型，在 CPU 上运行，支持六种语言，流式输出音频，首个音频块约 200 毫秒，可用 Python 或命令行。

multilingual-e5-large

intfloat · 工具包

把约 100 种语言的文本变成 1024 个数字的向量，用于搜索、匹配和检索。这是 intfloat 基于 xlm-roberta-large 的 5.6 亿参数嵌入模型。

K2-Horizon-7B-Uno

IFM · 工具包

给 IFM 的 K2-Horizon-7B 语言模型加上扩散通路的 LoRA 适配器，用于研究更快的文本生成。它只包含适配器，不含基础权重。

SmolLM2-135M

HuggingFaceTB · 工具包

用一个 1.35 亿参数、小到能在设备上运行的基础语言模型，根据提示续写英文文本。适合想用微型模型做测试或微调的开发者。

Carbon-X

HuggingFaceBio · 工具包

在聊天里读取原始 DNA 并用英文回答，判断变异看起来是良性还是致病，适合想在自己 GPU 上运行 DNA 语言模型的研究人员。

Crystal-31B-RL

hiwaifu-research · 工具包

从 Gemma 4 31B-IT 后训练而来的角色扮演聊天模型，用用户的语言回复，无论是俄语、西班牙语、英语还是葡萄牙语，并一直保持这种语言。可处理图像和文字。

hs-embed-1

hindsight-ai · 工具包

把文本变成紧凑的向量，用于八种语言的搜索和匹配，输入最长 8,192 个 token。这是为 Hindsight 打造的 112M 小型嵌入模型，可在 CPU 或 GPU 上运行。

bekko-static-v1-slim-100k

flowercomputers · 工具包

用静态嵌入模型把文本变成 1024 维向量，词表精简到 25 种语言。不用 Transformer，就能快速做句子相似度和检索，可用 Python 或 Rust。

POCKET-35B-GGUF

FINAL-Bench · 工具包

用 llama.cpp 从 GGUF 文件在你自己的电脑上运行针对韩语调优的 35B 模型，有纯 CPU 路径，不需要 GPU。适合想在本地使用语言模型的人。

V-JEPA 2

facebook · 工具包

把视频和图片转成嵌入向量，用于视频分类、检索，或作为视觉语言模型的视频编码器。由 Meta 的 FAIR 打造，适合处理视频的开发者和研究人员。

NLLB-200 3.3B

facebook · 工具包

在 200 种语言之间翻译单个句子，重点关注低资源语言。这是 facebook 发布的研究模型，面向机器翻译研究者，不用于生产环境或认证翻译。

MedErtas v0.1 31B LS

ErtasAI · 工具包

在 vLLM 和 NVIDIA Blackwell GPU 上运行面向医疗领域的语言模型，它是压缩后的 Gemma 4 31B。适合需要在考题、编码和答案核查任务上又快又省的医疗 AI 产品。

Kvark-Sparkle-1.0-27B-GGUF

Egzakta · 工具包

KVARK Sparkle 1.0 这个 27B 视觉语言模型的 GGUF 文件，适用于 llama.cpp、Ollama 和 LM Studio，保留了推测解码头。适合在本地运行大模型的人。

DistilBERT base uncased

distilbert · 工具包

从 BERT base 蒸馏出来的小而快的英文语言模型，有 67M 参数。能填补被遮住的词，主要用来针对分类、标注和问答进行微调。

Maximizing Model Performance 指南

DavidAU · 工具包

指导你为本地语言模型调节采样器和参数，并给出在 LM Studio、SillyTavern、Ollama 和 Koboldcpp 里设置系统提示词、推理模型和专家数量的步骤。

Qwen3.8-27B-AWQ-INT4

cyankiwi · 工具包

cyankiwi 制作的 Qwen3.8-27B 4-bit AWQ 量化版本，一个带思考控制的 27B 视觉语言模型。权重为 21.02 GB，可在 Transformers、vLLM 或 SGLang 中加载。

cbx-indic-pii-extractor-17M

CobuildX-AI · 工具包

在印度语言和印度英语文本中找出姓名、电话号码、Aadhaar 和 PAN 等个人信息，并返回每个值的位置。这是一个 16.7M 参数、能在 CPU 上运行的模型。