Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
借助 WebGPU,在网页浏览器里用你自己的机器运行 Apertus Mini 模型,不需要搭建服务器。适合想在本地试用小模型的开发者和好奇的用户。
Apertus Mini WebGPU 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download swiss-ai/apertus-mini-webgpu --repo-type space --local-dir apertus-mini-webgpu cd apertus-mini-webgpu
Apertus Mini WebGPU 是一个静态网页,在你的浏览器里本地运行 Apertus Mini 模型。它使用浏览器的图形接口 WebGPU,所以计算在你自己的机器上完成。这个 Space 是一个 GitHub 项目的镜像,作者在那里接收问题和拉取请求。
适合想试用小模型,又不想装服务器或把内容发给托管服务的开发者、研究人员和好奇的用户。研究浏览器内模型代码的前端开发者也适合。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 前端开发者 | 研究模型如何借助 WebGPU 在页面里运行 | 阅读 index.html,看看页面是怎么构建的 |
| 研究 | 机器学习研究人员 | 不用任何设置就在本地试用小模型 | 打开页面,在自己的 GPU 上测试模型 |
| 教育 | 学生和老师 | 展示模型在笔记本浏览器里运行 | 在课堂上演示本地推理 |
| 兴趣 | 好奇的用户 | 不用账号就试用开放模型 | 打开页面,看它运行起来 |
如果你需要大模型,或者要给很多用户提供托管 API,可以跳过它。
| Use case | Who | What they get back |
|---|---|---|
| 不用设置就试用模型 | 任何人 | 在你自己机器的浏览器标签页里运行的模型 |
| 研究浏览器内推理 | 开发者 | 一个装着可读代码的小型静态页面 |
| 演示本地模型 | 老师 | 一个不需要服务器就能运行的模型 |
在线使用只需要一个支持 WebGPU 的浏览器。想保存一份副本,需要 Python 和 pip 来下载。
pip install -U huggingface_hub hf download swiss-ai/apertus-mini-webgpu --repo-type space --local-dir apertus-mini-webgpu cd apertus-mini-webgpu
在浏览器里打开这个 Space,或者载入下载副本里的 index.html。页面通过 WebGPU 在你自己的机器上运行模型。资料没有给出更多操作,所以页面打开后怎么显示就怎么用。
cd apertus-mini-webgpu
你在支持 WebGPU 的浏览器里打开这个 Space。页面在你自己的图形硬件上启动 Apertus Mini 模型,没有远程服务器替你工作。
如果你刚接触这类工具,用较新的桌面浏览器打开这个 Space,等页面加载完。所有事情都在你的机器上进行,所以较慢的电脑可能要等更久。
如果你熟悉这个领域,这是通过 WebGPU 在客户端运行的模型,把推理从任何服务器上挪开了。代价是速度和内存取决于访问者自己的硬件和浏览器。仓库很小,只有一个索引页、一个标志和一个资源文件夹。
借助 WebGPU,在网页浏览器里用你自己的机器运行 Apertus Mini 模型,不需要搭建服务器。适合想在本地试用小模型的开发者和好奇的用户。
由 swiss-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的,应用自己的文件和许可证在 Hugging Face 上。
它是什么:Apertus Mini WebGPU 是一个静态网页,在你的浏览器里本地运行 Apertus Mini 模型。它使用浏览器的图形接口 WebGPU,所以计算在你自己的机器上完成。这个 Space 是一个 GitHub 项目的镜像,作者在那里接收问题和拉取请求。
适合谁:适合想试用小模型,又不想装服务器或把内容发给托管服务的开发者、研究人员和好奇的用户。研究浏览器内模型代码的前端开发者也适合。
Title: 谁在浏览器里运行模型
Industry | Who uses it | How they use it | Example
软件 | 前端开发者 | 研究模型如何借助 WebGPU 在页面里运行 | 阅读 index.html,看看页面是怎么构建的
研究 | 机器学习研究人员 | 不用任何设置就在本地试用小模型 | 打开页面,在自己的 GPU 上测试模型
教育 | 学生和老师 | 展示模型在笔记本浏览器里运行 | 在课堂上演示本地推理
兴趣 | 好奇的用户 | 不用账号就试用开放模型 | 打开页面,看它运行起来
如果你需要大模型,或者要给很多用户提供托管 API,可以跳过它。
用在哪里:
Use case | Who | What they get back
不用设置就试用模型 | 任何人 | 在你自己机器的浏览器标签页里运行的模型
研究浏览器内推理 | 开发者 | 一个装着可读代码的小型静态页面
演示本地模型 | 老师 | 一个不需要服务器就能运行的模型
如何设置:在线使用只需要一个支持 WebGPU 的浏览器。想保存一份副本,需要 Python 和 pip 来下载。
pip install -U huggingface_hub
hf download swiss-ai/apertus-mini-webgpu --repo-type space --local-dir apertus-mini-webgpu
cd apertus-mini-webgpu
如何使用:在浏览器里打开这个 Space,或者载入下载副本里的 index.html。页面通过 WebGPU 在你自己的机器上运行模型。资料没有给出更多操作,所以页面打开后怎么显示就怎么用。
cd apertus-mini-webgpu
示例:你在支持 WebGPU 的浏览器里打开这个 Space。页面在你自己的图形硬件上启动 Apertus Mini 模型,没有远程服务器替你工作。
新手与专家:如果你刚接触这类工具,用较新的桌面浏览器打开这个 Space,等页面加载完。所有事情都在你的机器上进行,所以较慢的电脑可能要等更久。
如果你熟悉这个领域,这是通过 WebGPU 在客户端运行的模型,把推理从任何服务器上挪开了。代价是速度和内存取决于访问者自己的硬件和浏览器。仓库很小,只有一个索引页、一个标志和一个资源文件夹。
你在浏览器里打开页面
浏览器使用 WebGPU
Apertus Mini 在你的机器上运行
注意事项:
在浏览器里打开这个 Space,或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。
README.md 4 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face Space。
| 产品 | 点赞 | 构建方式 | 许可证 | 最近更新 |
|---|---|---|---|---|
| Apertus Mini WebGPU 本页 | 12 | static | mit | |
| InferenceSupport共有 static | 764 | static | afl-3.0 | |
| Huggy共有 static | 463 | static | cc-by-nc-sa-4.0 | |
| Z-Image Lookalike LoRA Index共有 static | 189 | static | apache-2.0 | |
| Granite Docling 258M WebGPU共有 static | 163 | static | apache-2.0 | |
| DINOv3 Web共有 static | 162 | static | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。