Dodaios
Dodaios · 工具包
开源的智能体操作系统,让你用语音或聊天指挥编码智能体、浏览器和其他桌面应用,每一次系统改动都要等你批准。
写代码、审代码用的提示词、编程智能体任务说明和工具包,花更少的 Token。
Dodaios · 工具包
开源的智能体操作系统,让你用语音或聊天指挥编码智能体、浏览器和其他桌面应用,每一次系统改动都要等你批准。
Cactus-Compute · 工具包
Google gemma-4-26B-A4B-it 聊天模型的 2 位、3 位和 4 位压缩副本,使用 Cactus 权重格式。专为通过 Cactus 运行时在 ARM 设备上运行而做。
AtomicChat · 工具包
Ornith 1.5 9B 的 GGUF 版本,这是一个能读图像和文字的模型,文件大小从 2.81 GB 到 17.9 GB,另有视觉投影文件。选一个适合你显存的文件,在本地运行。
yamura4 · 工具包
检查荷兰语、佛兰芒语和英语的青少年聊天消息,返回拦截或放行,能发现有害用语以及分享的地址、IP 和链接。适合构建儿童安全聊天应用的人。
unsloth · 工具包
用 SmolLM3 聊天和推理,这是个完全开放的 3B 模型,可以一步步思考,也可以直接回答,提供 Unsloth 制作的 GGUF 文件,带聊天模板修复。能处理长文本和六种语言。
unsloth · 工具包
unsloth 量化的 Qwen3-30B-A3B GGUF 文件,用于在 llama.cpp、Ollama 或 Open WebUI 里运行本地聊天和推理模型,思考模式可以逐轮开关。
unsloth · 工具包
用 Meta 的紧凑模型 Llama 3.2 3B 指令版聊天、总结和回答问题,提供 Unsloth 制作的 GGUF 文件,从 2 位到 16 位。小到普通笔记本也能用。
trevest · 工具包
把 Cloudflare Clef 的决策头加到 Qwen3.8-27B 聊天模型上,让一台 24 GB GPU 上的 llama.cpp 服务器既能回答带类型的问题,也能聊天。它是 LoRA 适配器,不是独立模型。
ResembleAI · 工具包
这个 110M 参数的模型在普通 CPU 上朗读英文文本,并能通过文本里的标签加入笑声和咳嗽声。适合需要快速设备端语音、内存和延迟预算都很紧的开发者。
ResembleAI · 工具包
一个零样本英语文字转语音模型,能从简短参考片段复制声音,并按块低延迟流式输出音频。适合开发语音助手和旁白工具的开发者。
RadixArk · 工具包
Qwen3.8-27B 的预量化 NVFP4 版本,能读取文字、图片和视频并用文字回答,通过 SGLang 在 NVIDIA Blackwell 显卡上提供服务。适合在该硬件上运行智能体、聊天机器人和 RAG 的开发者。
Qwen · 工具包
通过 mlx 库运行 Qwen3 8B 语言模型,用于聊天、推理、翻译和智能体任务。适合想在本地使用可切换思考模式的文本模型的开发者。
Qwen · 工具包
一个 30.5B 的混合专家聊天模型,GGUF 格式,每个词元只激活 3.3B 参数,可在 llama.cpp 或 ollama 里运行。有思考和普通两种模式,适合机器配置较高的开发者。
Qwen · 工具包
一个 0.6B 的小型 GGUF 聊天模型,可在 llama.cpp 或 ollama 里本地运行,并能在思考和普通回复之间切换。适合硬件一般的用户和测试本地模型的开发者。
Qwen · 工具包
一个 32B 代码聊天模型的 GGUF 版本,可用 llama.cpp 在本地运行。能根据简单请求编写、解释和修复代码,适合想在自己机器上运行的开发者。
Qwen · 工具包
这是一个仅 494M 参数的对话模型,能写代码、解释代码、修代码,上下文为 32,768 个 token。适合想在笔记本、测试环境或本地小助手里用最小开源 Qwen 编程模型的开发者。
Qwen · 工具包
Qwen2.5-7B-Instruct 的 4 位 AWQ 版本,一个 7.6B 的聊天模型,能遵循指令、处理表格并返回 JSON。适合想要更小内存占用的强力聊天模型的开发者。
Qwen · 工具包
这是一个 14.7B 参数的对话模型,能回答问题、写代码、做数学题并输出结构化 JSON,上下文最长 131,072 个 token。适合想自己运行开源模型的开发者。
OliviaRossi · 工具包
以混合精度 GGUF 文件运行 26.9B 参数的 SenseNova-6.8-Code2Video 模型,可在终端聊天或启动本地服务。适合想在自己硬件上使用该模型的人。
nvidia · 工具包
读取文本和图像并输出文本,是 NVIDIA 制作的 DeepSeek-V4.1-Flash 的 NVFP4 精简版本。适合在 NVIDIA Blackwell GPU 上部署智能体、聊天机器人和检索系统的开发者。
mlx-community · 工具包
4.2B 聊天模型 JevK5 的 4-bit MLX 版本,面向 Apple Silicon,上下文 262,144 token,内存占用小。适合想在入门级 Mac 上用本地聊天模型的用户。
mlx-community · 工具包
Cloudflare 的 clef-flash 的 4 位 MLX 版本,在 Apple Silicon Mac 上把一个状态和带类型的问题变成每个允许答案的概率。不是聊天模型。用自带的加载器在本地运行。
mistralai · 工具包
Mistral 推出的 7B 指令微调聊天模型,基于 Mistral-7B-v0.1,用公开的对话数据集微调。适合想要一个能遵循提示词的小型开放模型的开发者。
microsoft · 工具包
Microsoft Research 推出的 14B 开放语言模型,针对计算资源有限时的英语推理和对话做了调整。适合给应用添加文本功能,或研究中等规模模型的开发者。
Jundot · 工具包
把 Qwen3.8-27B 做成 8 位混合精度的 MLX 检查点,带视觉编码器和 MTP 头,用于苹果硬件上的图文聊天。适合想在本地得到接近完整质量的人。
以 MLX 格式、6 位运行一个只有 0.8B 的推理调优聊天小模型,转换自 Jackrong 的 Qwen3.5 蒸馏模型。适合想在 Mac 上用一个很小本地模型的人。
CYFRAGOVPL · 工具包
PLLuM 系列的波兰语聊天模型,按人类偏好调优,适合对话、问答和摘要,并关注波兰公共服务场景。
bartowski · 工具包
IBM 的 granite-4.2-3b 文本模型的量化 GGUF 副本,从完整精度到较小的 3 位文件,尺寸齐全。适合想在自己电脑上运行小型聊天模型的人。
Qwen · 工具包
作为最小的指令微调 Qwen2.5 模型回答对话提示,约 0.5B 参数。适合想要轻量本地模型来做对话、结构化输出和测试的开发者。
ai-sage · 工具包
用于俄语和英语的对话、代码、推理和工具调用文本生成。这是一个 432B 的混合专家模型,激活参数 28B,适合能自行部署大模型的团队。
unsloth · 工具包
用 IBM 的 Granite 4.1 8B 模型遵循指令、调用工具和聊天,提供 Unsloth 制作的 GGUF 文件,包含聊天模板修复。适合商业助手和会用工具的智能体。
Qwen · 工具包
这个模型在语言模型还在写字的时候逐个 token 检查文本的安全性,把每一部分判为安全、有争议或不安全,覆盖 119 种语言和方言。适合要给聊天或生成应用加上实时内容审核的开发者。
Qwen · 工具包
一个小型安全审核模型,把提示或模型回复标为安全、有争议或不安全,并指出风险类别,支持 119 种语言。适合筛查聊天输入和输出的开发者。
Qwen · 工具包
提供 Qwen3 1.7B 小型对话模型的 q8_0 GGUF 文件,供 llama.cpp 使用,可在思考与非思考回复之间切换。适合想要轻量本地助手的人。
Qwen · 工具包
一个紧凑的 1.7B 聊天模型,可在用于推理的思考模式和用于对话的快速模式之间切换。适合想用小型开放模型做聊天、翻译和智能体功能的开发者。
Qwen · 工具包
这是一个 7.6B 参数的指令微调模型,能聊天、写代码、做数学题并输出结构化 JSON,上下文最长 131,072 个 token。适合需要在单台电脑上运行小型开源模型的开发者。
Qwen · 工具包
Qwen 出品的小型 494M 参数聊天模型,能遵循指令,BF16 权重约 988 MB,通过 Transformers 运行。适合需要轻量模型做测试或简单任务的开发者。
NousResearch · 工具包
一个 3.2B 的聊天助手模型,能遵循指令、调用函数、输出结构化内容并写代码。适合在自己电脑上运行模型的开发者和爱好者。
microsoft · 工具包
一个小型文本生成模型,能回答问题、续写对话并补全代码。适合想用紧凑开放模型做安全研究和实验的研究人员与开发者。
incoai · 工具包
通过起草一整块 token 让主模型验证,来加速 Qwen3.8-27B,输出保持不变。这是适用于 SGLang 和 vLLM 服务的 1.9B 草稿模型,不是独立的聊天模型。
ibm-granite · 工具包
回答前先一步步推理,在 IBM 的紧凑 3B 模型中提供工具调用、代码生成和多语言对话。原生支持 128K 上下文,采用 Apache 2.0 开源。
HuggingFaceTB · 工具包
用一个 3.62 亿参数、在普通硬件上就能运行的指令微调模型回答聊天式问题,也能做改写和摘要。适合想要比 135M 更有余量的小型聊天模型的开发者。
deepseek-ai · 工具包
DeepSeek 的 685B 开源推理模型,用稀疏注意力处理长上下文,聊天模板让它能一边思考一边调用工具。适合运行大模型和构建智能体的团队。
bartowski · 工具包
Meta Llama 3.1 8B Instruct 的量化 GGUF 文件,用于本地聊天,例如 Q4_K_M 为 4.92 GB,Q8_0 为 8.54 GB。由 bartowski 用重要性矩阵制作。涵盖 8 种语言,可在 LM Studio 中运行。
bartowski · 工具包
bartowski 用重要性矩阵为 Meta 的 Llama-3.2-3B-Instruct 制作的 GGUF 量化版本,大小约从 1.8 GB 到 6.4 GB。适合用 llama.cpp 或 LM Studio 在本地运行小型聊天模型。
xtools-at · 工具包
用三个 Qwen3.8-27B 微调版本加权合并而成的模型,可编写和解释代码,也能处理推理问题。适合想用一个通用模型做编程和聊天的开发者。
unsloth · 工具包
在笔记本上聊天、总结和回答文字问题,是 Unsloth 提供的 Meta 小型 Llama 3.2 1B Instruct 的 GGUF 副本,精度从 16 比特到 2 比特。适合开发者和学习者。
taobao-mnn · 工具包
通过 MNN 运行时在手机和边缘设备上运行 0.3B 的中英文对话模型,是约 173 MB 的 4 比特版本。适合给移动应用加入设备端助手的开发者。
taobao-mnn · 工具包
读取一段文字状态和你的问题,在一次计算里为每个问题从你给的选项中选出答案,并给出各候选项的概率。这是面向开发者的决策模型,不是聊天模型。
ResembleAI · 工具包
这个 350M 参数的模型为低延迟语音智能体打造,朗读英文文本,并能通过文本里的标签加入笑声和咳嗽声。适合想要快速、有表现力、显存占用更少的语音的开发者。
Qwen · 工具包
这是一个只做过预训练的视觉语言基础模型,用于微调和上下文学习实验,不用于直接聊天。适合想用小型 Qwen3.5 作起点并用 LoRA 适配的开发者。
Qwen · 工具包
一个 4B 的 GGUF 聊天模型,可在 llama.cpp 或 ollama 里本地运行,有用于推理的思考模式和用于快速回复的普通模式。适合使用普通电脑的开发者和爱好者。
Qwen · 工具包
这是一个 14.8B 参数的开源模型,难题用思考模式推理,日常聊天用更快的非思考模式回答。适合想用一个模型处理逻辑、代码、智能体和 100 多种语言的开发者。
ibm-granite · 工具包
先分步骤思考再作答,适合数学、代码、工具调用和多语言对话。这是 IBM 最大的稠密 Granite 4.2 模型,采用 Apache 2.0 许可,适合在自己硬件上运行开源模型的团队。
HuggingFaceTB · 工具包
用一个 1.35 亿参数、小到能在设备上运行的指令微调模型回答聊天式问题,也能做改写和摘要。适合需要在 Python 或 JavaScript 中使用微型聊天模型的开发者。
HuggingFaceTB · 工具包
聊天、改写和总结文本,还能调用函数,是一个小到可以在设备上运行的 1.7B 紧凑模型。这是 HuggingFaceTB 经过指令微调的 SmolLM2,适合想要小型英文模型的开发者。
gnani · 工具包
用英语和十种印度语言聊天、答题和推理,上下文长度 128K。这是 Gnani.ai 的 30B 混合专家模型,适合用印度语言构建助手、RAG 和智能体的团队。
BlinkDL · 工具包
纯 RNN 的文本生成基础模型,用于聊天、推理和工具调用,可作为后训练和微调的起点。支持八种语言,适合开发者和研究人员。
bartowski · 工具包
支持中英文的小型聊天模型,GGUF 文件从完整 bf16 到约 2.4 GB,供 llama.cpp 使用,有低或高两档思考设置。适合想要紧凑本地助手的开发者。
QwenLM · 工具包
开源的 AI 编程智能体,可在终端、IDE 插件、桌面应用、网页和聊天应用里使用,带子智能体、MCP 和多家模型服务商。适合用 AI 写代码的开发者。
Qwen · 工具包
用 4B 模型回答对话提示,不显示思考过程,可读取最多 256K token 的上下文。适合想要小型开源助手来做推理、编程和工具调用的开发者。
Qwen · 工具包
提供 Qwen2.5 1.5B 小型对话模型的 GGUF 文件,有八种量化大小,可用 llama.cpp 在笔记本或普通 GPU 上运行。适合想要轻量本地助手的人。
Qwen · 工具包
Qwen 的 1.5B 小型对话模型,能遵循指令、写代码和数学、输出 JSON 等结构化内容,支持超过 29 种语言。适合需要轻量模型的开发者。
NousResearch · 工具包
Nous Research 的 14B 混合推理模型,基于 Qwen3-14B。它可以逐步思考、调用工具,并返回符合模式的 JSON。使用 ChatML 提示格式。
NousResearch · 工具包
把 NousResearch 的 8B 通用聊天模型 Hermes 3 做成量化 GGUF 文件,供 llama.cpp 使用。适合想在本机用函数调用、结构化输出和代码帮助的人。
NousResearch · 工具包
Nous Research 基于 Llama 3.1 的 8B 通用对话模型,支持函数调用、结构化输出、角色扮演和代码辅助。适合想要一个可以自己运行、可引导的开放助手的开发者。
Leejh123e · 工具包
一个小型聊天机器人,它的权重是用纯文本编辑清单手写出来的,完全没有经过训练。你可以把每条回复追溯到背后的神经元。需要联网访问一个公开的查询服务。
8BitStudio · 工具包
一个 95.6M 参数的英文聊天模型,在单块 RTX 5060 Ti 上从零训练,小到可以在 CPU 上运行。适合想试玩小型本地语言模型的人。
Qwen · 工具包
能读图像和文字的多模态聊天模型,总参数 35B,每次只启用其中 3B。适合用 Transformers、vLLM 等自己部署大模型的开发者。
peculiar-ragdoll · 工具包
替换 Qwen3.5、3.6 和 3.8 模型的聊天模板,让它们回答前少想一些、回复更紧凑。适合在本地运行 Qwen 做编程和知识工作的人。
mistralai · 工具包
Mistral AI 的 7.2B 开源聊天模型,能遵循指令,还能调用你描述的函数。它由 Mistral-7B-v0.3 微调而来,可用 mistral_inference 或 transformers 运行。
KRAFTON · 工具包
在 llama.cpp 中运行一个 28.8B 的混合专家模型,针对韩语对话、推理和调用工具的智能体做过优化。这是 Raon-1 mini preview 的 GGUF 版本,适合在自己电脑上运行模型的人。
ibm-granite · 工具包
逐步推理、写代码、调用工具,并用多种语言聊天,上下文最长 128K token,可扩展到 512K。这是 IBM 的稠密 8B 模型,适合构建智能体和助手的开发者。
DRUPEs · 工具包
基于 MiniCPM5-2B 的 2B 编程和聊天模型,在需要多个功能合在一个组件里的网页应用上进步很大。适合想要本地小型代码模型的开发者。
TinyLlama · 工具包
以小型 1.1B 语言模型的身份用纯文本聊天,运行时占用内存很少。适合想要基于 Llama 风格基础模型的紧凑聊天模型的开发者和研究人员。
NousResearch · 工具包
这是一个推理型对话模型,可以一步步思考,也可以快速作答,还能返回符合你所给模式的 JSON。适合自己部署语言模型的人。
MineAITechnology · 工具包
MineAI Technology 推出的 355M 参数英文小型聊天模型,遵循简单的 User 和 Assistant 格式。这是研究级模型,回答能干净收尾、会写简短代码,但没有增加知识。
XHToken · 工具包
以 4-bit GGUF 文件运行 XHToken 的 1.7B 小型端侧语言模型,可做中英文的聊天、编码和智能体任务,思考强度可调。适合在本地运行模型的人。
Qwen · 工具包
在 llama.cpp 或 Ollama 中运行量化后的 Qwen3-8B GGUF 文件,有用于数学、代码和逻辑的思考模式,也有用于聊天的普通模式。适合想要本地模型并能选择文件大小的人。
thinkingmachines · 工具包
读取文字、图片和音频并写出文字,是一个庞大的开放多模态模型,适合编码助手、智能体和聊天机器人。适合有多 GPU 服务器或托管 API 的开发者。
Qwen · 工具包
Qwen 的 8.2B 开放语言模型,可在处理难题的思考模式和日常聊天的普通模式之间切换,支持工具调用和 100 多种语言。
KRAFTON · 工具包
能聊天和推理,尤其擅长韩语,并可执行调用工具的智能体任务。这是一个 28.8B 的混合专家模型,每个词元激活 4.3B 参数,上下文 262,144 个词元。KRAFTON AI 的预览版本。
Qwen · 工具包
最小的 Qwen3 对话模型,基于 Qwen3-0.6B-Base 构建。它能在思考模式和更快的普通模式之间切换,支持 100 多种语言和 32,768 token 的上下文,在普通硬件上也能运行。
KRAFTON · 工具包
把 Raon-1 nano 打包成 4-bit 的 LiteRT-LM 包,上下文 4,096 个 token,用于在设备上运行韩英双语聊天模型。回复不带思考步骤。
Qwen · 工具包
为研究人员和开发者提供带视觉编码器的预训练 9B 基础模型,用于微调和实验,而不是直接聊天。能处理文本和图像。
Qwen · 工具包
用 4B 的 Qwen3 模型生成文本,可在处理难题的思考模式和快速聊天的普通模式之间切换。适合想用小型聊天模型的开发者。
169Pi · 工具包
通过三种位深的 GGUF 文件,在你自己的机器上运行 169Pi AI 的图文模型 Alpie Seed 9B。适合想在本地做视觉语言对话的开发者。
froggeric · 工具包
用一个即插即用的 Jinja 文件替换 Qwen 官方聊天模板,修复渲染错误、缓存失效、浪费词元和智能体卡住的问题。适合在本地运行 Qwen 3.5、3.6 和 3.8 模型的人。
ResembleAI · 工具包
Resemble AI 的开源文字转语音模型,支持零样本声音克隆和情感夸张控制。最新的多语言版本覆盖 23 种语言,参数量 0.5B。
KRAFTON · 工具包
提供适用于 Apple silicon 的 4-bit MLX 版 Raon-1 nano 权重,让开发者在 Mac 上本地运行韩英双语聊天模型。适合应用开发者和本地模型用户。
KRAFTON · 工具包
把 Raon-1 nano 语言模型打包成适用于 llama.cpp 的 GGUF 文件,让开发者在自己的电脑上运行韩英双语聊天模型。列出了四种量化类型。
abidlabs · 工具包
一个简短的 Gradio 聊天机器人,用 microsoft/DialoGPT-medium 模型回答。适合想试用小型聊天页面或阅读精简示例的人。
abidlabs · 工具包
一个简短的 Gradio 聊天机器人,用 microsoft/DialoGPT-medium 模型回答。适合想试用基础聊天页面或阅读小型示例的人。
xxparthparekhxx · 工具包
一个完全在浏览器里运行的小型聊天模型,通过 onnxruntime-web,用 WebGPU 或 WebAssembly,没有服务器参与推理。适合想要私密、本地聊天演示的人。
Oxygen-Low · 工具包
DeepSmolLM3-3B 的浏览器聊天演示,这是一个 3B 参数的推理模型,会把长篇思考和答案分开显示。适合想不用 API 密钥就试试小型推理模型的人。
mohdmahmodi · 工具包
通过 WebGPU 在你的浏览器里运行 Spark-X2.6-1.7B 聊天模型,你输入的内容留在自己的设备上。适合想要私密本地聊天、使用桌面版 Chrome 或 Edge 的人。
locojefe · 工具包
让你在浏览器里和 gpt-oss-20b-heretic 语言模型对话,它在 ZeroGPU 上运行,只显示最终回答,适合想试用这个社区模型的人。
JerryZhouYG · 工具包
把 Open WebUI,一个用于 AI 模型的浏览器聊天前端,打包成 Docker Space,你可以在线打开,也可以在自己的电脑上构建。适合想要现成聊天页面、不想自己设置的人。
deepseek-ai · 工具包
和 DeepSeek 的 Janus-Pro-7B 模型聊天,它既能理解图片也能生成图片,生成的图片会做 2 倍放大。适合想在浏览器里试用多模态模型的人。
DarkDriftz · 工具包
在沙盒里并通过 PowerShell 脚本运行 Kali Linux 安全工具,背后是 MCP 服务器和 Gradio 页面,HuggingChat 可以调用。适合在自己拥有的系统上做测试的安全人员。