来自 Hugging Face 的 AI 项目

d3-edge

vllm-sr · 工具包

在一次调用中回答关于文字、图片或视频的选择题、是非题和打分题，并为每个答案返回概率。适合做路由和分诊的工程师使用的小型决策模型。

MakHam Thai TTS

pythainlp · 工具包

用一个只有 8 MB 的 ONNX 小模型，以女声朗读泰语文本，在单个 CPU 线程上就能运行。适合需要在服务器、边缘设备或浏览器里提供泰语语音的开发者。

MOSS-Image Canny Control LoRA

thedeoxen · 工具包

在 ComfyUI 里为 MOSS-Image-SFT 提供 Canny 边缘控制的 LoRA，保留照片的轮廓，让提示词改变材质、颜色和风格，适合编辑和重绘图片的人。

POCKET-35B-GGUF

FINAL-Bench · 工具包

用 llama.cpp 从 GGUF 文件在你自己的电脑上运行针对韩语调优的 35B 模型，有纯 CPU 路径，不需要 GPU。适合想在本地使用语言模型的人。

MNN-Pocket-0.3B-MNN

taobao-mnn · 工具包

通过 MNN 运行时在手机和边缘设备上运行 0.3B 的中英文对话模型，是约 173 MB 的 4 比特版本。适合给移动应用加入设备端助手的开发者。

MiniCPM-V 4.6

openbmb · 工具包

能读懂单张图片、多张图片和视频并用文字回答，参数量 1.3B，适合在手机和其他边缘设备上运行。适合想要小型视觉语言模型的开发者。

LFM2.5-8B-A1B-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF

DavidAU · 工具包

LiquidAI 的稀疏混合专家模型 LFM2.5-8B-A1B 的 GGUF 版本，加入 DavidAU 的 Turbo Brilliance 系统和 12 种推理模式。8.5B 的实验性发布，供本地运行。

LFM2.5-2.6B-Qwen3.8-Turbo-Brilliance-Power-X12-NEO-MAX-GGUF

DavidAU · 工具包

LiquidAI 的 LFM2.5-2.6B 的 GGUF 版本，加入 DavidAU 的 Turbo Brilliance 系统，有 12 种推理模式和 12 种指令模式，在提示词里切换。2.7B 测试版，供本地运行。

Needle 2

Cactus-Compute · 工具包

一个 45M 参数的开放模型，用于工具调用、设备操作和结构化提取，打包成一个 14 MB 的二进制文件，约 28 MB 内存即可运行。适合需要在手机、开发板和浏览器上做函数调用的开发者。

Qwen Sharp Chat Templates

peculiar-ragdoll · 工具包

替换 Qwen3.5、3.6 和 3.8 模型的聊天模板，让它们回答前少想一些、回复更紧凑。适合在本地运行 Qwen 做编程和知识工作的人。

zipformer-asr-turkish-v1

oayk · 工具包

用一个约 2000 万参数的小型流式识别器，把土耳其语语音实时转成文字，在单个 CPU 核心上就能实时运行，适合在边缘设备上做语音功能的开发者。

Qwen3.8-2B-Distill-GGUF

empero-ai · 工具包

在手机、笔记本和单板计算机上运行小型 2B 推理模型，提供五种量化等级的 GGUF 文件。由 Empero 打包，是大型 Qwen3.8 模型的蒸馏版本，适用于 llama.cpp。

mine:o2-small

MineAITechnology · 工具包

MineAI Technology 推出的 355M 参数英文小型聊天模型，遵循简单的 User 和 Assistant 格式。这是研究级模型，回答能干净收尾、会写简短代码，但没有增加知识。

gemma-4-E2B-it-litert-lm

litert-community · 工具包

打包成 .litertlm 文件的 Gemma 4 E2B 指令微调模型，用于 LiteRT-LM 框架，适合在手机、桌面和边缘设备上私密地本地运行。

Needle 3

Cactus-Compute · 工具包

Cactus Compute 的小型设备端模型，用于工具调用、结构化提取和文本嵌入，通过 cactus Python 包使用。适合构建本地智能体的开发者。

BotPsy-0.8B

qvac · 工具包

一个专为函数调用和智能体工作流设计的 0.8B 小模型，基于 Qwen3.5-0.8B，轻到可以在设备上运行，适合想要本地使用工具的助手的开发者。

BotPsy-0.8B-GGUFs

qvac · 工具包

0.8B 工具调用模型 BotPsy 的 GGUF 版本，提供 BF16、Q8_0 和 Q4_K_M 三种文件，用 llama.cpp 在你自己的设备上完整运行智能体和函数调用任务。

Whistle

Cactus-Compute · 工具包

转写七种语言的语音，给出单词时间戳和语音嵌入，模型只有 16.9 MB。一段简短的 Python 脚本就能运行，适合给应用加入语音功能的开发者。

Alpamayo 2 Edge

nvidia · 工具包

读取多路摄像头画面、导航指令和运动历史，输出带文字理由的行驶轨迹，也能回答关于场景的问题。适合自动驾驶开发者和研究者。

MNN-Pocket-0.3B

taobao-mnn · 工具包

一个约 300M 参数、支持英文和中文的小型指令微调语言模型，与 MNN 推理栈一起设计，面向手机和平板运行。适合构建端侧助手的开发者。