MiniCPM5-2B
openbmb · 工具包
用面向设备端和本地使用的稠密 2B 级模型生成文本,涵盖英文和中文的编程、数学、长上下文、工具使用和智能体任务。适合硬件有限的开发者。
openbmb · 工具包
用面向设备端和本地使用的稠密 2B 级模型生成文本,涵盖英文和中文的编程、数学、长上下文、工具使用和智能体任务。适合硬件有限的开发者。
froggeric · 工具包
用一个即插即用的 Jinja 文件替换 Qwen 官方聊天模板,修复渲染错误、缓存失效、浪费词元和智能体卡住的问题。适合在本地运行 Qwen 3.5、3.6 和 3.8 模型的人。
Sparset · 工具包
Thinklite-27B 的 4 位 GGUF 版本,适用于 llama.cpp,每次回答比基础模型用更少的推理,适合在本地运行 27B 文本模型的人。
qvac · 工具包
一个专为函数调用和智能体工作流设计的 0.8B 小模型,基于 Qwen3.5-0.8B,轻到可以在设备上运行,适合想要本地使用工具的助手的开发者。
KRAFTON · 工具包
提供适用于 Apple silicon 的 4-bit MLX 版 Raon-1 nano 权重,让开发者在 Mac 上本地运行韩英双语聊天模型。适合应用开发者和本地模型用户。
ornith-ai · 工具包
运行一个面向编程和智能体任务的 35B 混合专家文本模型,每个词元只用约 3B 参数。这个仓库提供它的 GGUF 文件,供本地使用。
google · 工具包
Google 的 Gemma 4 12B Unified 模型,是能读文字、图片、音频和视频并输出文字的开放模型,上下文 256K,不需要单独的编码器。适合运行本地 AI 的开发者。
unsloth · 工具包
用 Unsloth 的 GGUF 文件运行 Qwen3.6-35B-A3B,这是能读图和文字的混合专家模型,每个词元只用约 3B 参数。适合在本地运行大模型的开发者。
openai · 工具包
根据文字提示词写作、推理并调用工具,是 OpenAI 的 21B 开放权重模型,可在 16 GB 内存内运行。适合想要本地或专用模型的开发者。
lodestones · 工具包
把 MOSS-Image-SFT 的出图步数减到 8 步且不用 CFG,以 ComfyUI 的 LoRA 文件提供。这是一个仍在进行中的蒸馏,适合在本地生成图像的人。
Cactus-Compute · 工具包
提供预编译的运行时二进制文件,在手机、笔记本、服务器和浏览器上本地运行文字、语音和视觉模型。适合在应用里发布设备端 AI 的开发者。
DavidAU · 工具包
以 GGUF 形式运行 Qwen3.8-27B,带有一组可在提示词里切换的推理和指令模式。适合运行本地模型、喜欢调整模型工作方式的人。
owensong · 工具包
在你自己的电脑上把英文文字转成语音,有六个预设声音,可在 CPU 或 CUDA 上运行。适合想要小型本地文字转语音模型的开发者和创作者。
meta-models · 工具包
读取文字和图片,在本地机器上完成工具调用、多步推理等智能体任务,是从 Muse Spark 蒸馏出的 30B 模型。适合构建本地智能体的开发者。
AtomicChat · 工具包
65B 智能体编程模型 Ripple Preview 的 GGUF 量化文件,用 llama.cpp 在本地运行,适合在自己硬件上运行大型开源模型的人。
SyzygyResearch · 工具包
用 Gradium 的 Phonon 31m 模型的 3.5 位版本,在单个 CPU 核心上把英文文字变成语音,速度比实时快好几倍,适合需要小巧本地语音输出的开发者。
unsloth · 工具包
Unsloth 制作的 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本,这是一个巨大的图文模型,可在 128 GB 或更多内存的机器上本地运行,适合自己运行大型开放模型的人。
ISTA-DASLab · 工具包
Qwen3.8-Flash-Next 的偏编程 GGUF 版本,去掉了一半专家,把 BF16 的 354 GB 缩到 58.4 GB,同时保留图片输入,适合有大机器、想在本地用编程模型的人。
aj9o9 · 工具包
一个 GGUF 草稿模型,通过推测解码在 llama.cpp 里加速 Qwen3.8-27B,在一块 RTX 3090 上处理代码和数学时约每秒 125 个 token,适合在本地运行 Qwen3.8-27B 的人。
ISTA-DASLab · 工具包
Qwen3.8-Flash-Next 的 GGUF 版本,有四种大小,每个张量用各自的精度量化,并带有支持图片输入的视觉投影文件,适合在本地运行大型混合专家模型的人。
ISTA-DASLab · 工具包
ISTA-DASLab 制作的 Qwen3.8-27B GGUF 版本,共四种大小,每个张量用各自的精度量化,并带有处理图片的视觉投影文件。适合在 llama.cpp、Ollama 或 LM Studio 里本地运行模型的人。
ConceptCountry · 工具包
对 Qwen3.8-27B 的九个权重矩阵做了权重空间编程式的编辑,无需训练,所以它用更少的 token 思考。这是面向研究人员和本地模型用户的实验性版本。
Yo-Purple · 工具包
一个聊天页面,通过 WebGPU 在你的浏览器里用你自己的 GPU 运行 Meditor 语言模型,带本地缓存和实时速度显示。适合想要不用云 GPU 的私密聊天的人。
xxparthparekhxx · 工具包
一个完全在浏览器里运行的小型聊天模型,通过 onnxruntime-web,用 WebGPU 或 WebAssembly,没有服务器参与推理。适合想要私密、本地聊天演示的人。
x1205x62108 · 工具包
用 YuE2-3B 模型根据风格提示词和歌词生成歌曲和翻唱,可在 Hugging Face 的浏览器页面使用,也可在本机运行。适合想快速得到歌曲草稿的音乐人和创作者。
webml-community · 工具包
在浏览器本地可视化 DINOv3 模型从图像中提取的密集特征。适合想查看这些特征的开发者和视觉研究人员。
Sammy-Mohan · 工具包
一个卡纳达语文字转语音模型的静态展示页,这个模型是 82M 的 Kokoro 模型的微调版本,带有可在浏览器里播放的音频样本。可在线打开,也可从本地副本打开。
sammiwen · 工具包
一个名为 Voice Clone Tts 的小型静态网页,由 HTML、JavaScript 和 CSS 文件组成。可在线在浏览器里打开,也可从本地副本打开,无需安装。
ReneNtabana · 工具包
用一个在浏览器里运行的小模型,把一篇基隆迪语新闻文章归入 10 个主题之一。这是一个静态网页演示,可在线打开,也可从本地副本打开。
ProCreations · 工具包
在浏览器标签页里用你自己的 GPU 运行 MiniCPM5 2B 模型,可以聊天,也能生成网站、Word 文档、Excel 工作簿和 PDF。适合想要免安装本地助手的人。
prithivMLmods · 工具包
一个标题为 My HF telemetry 的小网页,以 Docker Space 的形式打包,带有 Vite 和 TypeScript 项目文件。可在浏览器里打开,也可在本地 Docker 容器的 7860 端口运行。
overhead520 · 工具包
一个网页,帮你找到适合某个语言模型的采样器和提示词模板设置,还附带一个 SillyTavern 设置文件夹。适合在本地运行模型并调整输出的人。
mrfakename · 工具包
通过 WebGPU 在你的浏览器里运行 Hazy Research 的小型 Next-Concept Modeling 检查点,任务有 TinyStories、LM1B small 和数独。适合想要本地、免安装演示的研究者和开发者。
mohdmahmodi · 工具包
通过 WebGPU 在你的浏览器里运行 Spark-X2.6-1.7B 聊天模型,你输入的内容留在自己的设备上。适合想要私密本地聊天、使用桌面版 Chrome 或 Edge 的人。
milliwattlabs · 工具包
用一个只有 7M 参数的小型语音合成模型朗读你输入的任何一句话,它在浏览器里用你自己的 CPU 运行,适合想要本地语音输出的人。
LocalLLaMA · 工具包
展示哪些 GGUF 量化模型适合你的显卡、Mac 或 CPU,适合在自己电脑上运行语言模型、想选一个能跑起来的文件的人。
jnaiman · 工具包
运行一个标注为 IS445 示例的小型 Streamlit 应用,可以在浏览器里在线使用,也可以用 Python 从本地副本运行。页面本身没有说明这个应用做什么。
fulkast · 工具包
在不需要起始位姿猜测的情况下,找出一张相机图像在 3-D 点云中的拍摄位置。适合研究 3-D 扫描中相机定位的研究者和学生。
CirujanoRetro · 工具包
在浏览器页面里运行 FLUX.2 Klein 图像模型,并同时套用多个 LoRA 适配器。适合想混合 LoRA 风格、又不想在本地搭环境的图像创作者。
ArshPathan · 工具包
用扩散模型根据文字提示生成透明的 16x16 物品纹理,可通过 Gradio Space、本地 REST 服务或 MCP 工具使用。适合游戏制作者和智能体开发者。
ACE-Step · 工具包
用 ACE-Step 1.5 音乐模型,根据简单描述和歌词生成完整歌曲,也能编辑或翻唱已有音频。适合想要本地、快速的 AI 音乐工具的音乐人和创作者。
abdulrahmanmaslmany · 工具包
估算语言模型需要的 GPU 显存:权重、KV cache 和总显存。适合在自己的显卡上运行模型、想先确认能否放得下的人。
V0pr0S · 工具包
把 FaceFusion 人脸处理应用作为 Gradio Space 跑在 CPU 上,可在浏览器或本地副本里在图片之间换脸。适合有权使用这些人脸的爱好者和编辑。
Upsampler · 工具包
用 SeedVR2-3B 模型一步扩散修复并放大单张图片,可在 Hugging Face 的浏览器页面使用,也可在本机运行。适合想把模糊或偏小的图片变清晰的人。
swiss-ai · 工具包
借助 WebGPU,在网页浏览器里用你自己的机器运行 Apertus Mini 模型,不需要搭建服务器。适合想在本地试用小模型的开发者和好奇的用户。
SadikNawazAI · 工具包
一个多语言聊天助手,通过 WebAssembly 完全在你的浏览器里运行,所以你的消息留在你的设备上。也可以通过 Ollama 和本地 API 使用。
mrfakename · 工具包
在浏览器里用 WebGPU 把语音转成文字,提供两个大小不同的 Parakeet 模型。适合想在本地做语音识别的人,也适合研究浏览器端识别的开发者。
black-forest-labs · 工具包
在浏览器演示里用 FLUX.1 Kontext dev 模型编辑图片,自带三张示例图片。适合想不在本地搭环境就试试 AI 图片编辑的设计师和图像创作者。
donaldJJ · 工具包
估算 Hugging Face 模型在任意量化和上下文长度下需要多少显存,拆成权重、KV 缓存和额外开销,并显示哪些 GPU 容量够用。适合计划在本地运行大模型的人。
neksjgg · 工具包
用 Wan 2.2 Animate 模型,把视频里的角色换成参考图里的角色,在 ZeroGPU 上运行。适合不想在本地搭环境、想换角色的视频创作者和动画师。