Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
通过 WebGPU 在浏览器里运行小型的 Baguettotron 推理模型,不需要服务器,也不用安装任何东西。适合想试用浏览器内模型或想读读它如何搭建的人。
Baguettotron WebGPU 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download webml-community/Baguettotron-WebGPU --repo-type space --local-dir Baguettotron-WebGPU cd Baguettotron-WebGPU
这个 Space 在你的浏览器里运行 Baguettotron,这是 PleIAs 的一个小型推理模型。名字里提到了 WebGPU,这个 Space 还列出了 onnx-community 团队提供的 ONNX 版本。它是一个静态网页,所以没有服务器替你运行模型。
它适合想不注册账号就试用小型语言模型的人,也适合想读一个在浏览器里运行模型的 Vite 和 TypeScript 项目的网页开发者。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 网页开发者 | 研究模型是如何在页面里加载和运行的 | 打开 src 文件夹,跟着加载代码读 |
| 机器学习 | 爱好者 | 不用任何设置就试用小型推理模型 | 打开页面,问一个简短的问题 |
| 教育 | 学生 | 看 AI 模型在自己的设备上运行 | 比较几个提示词,记下答案 |
| 注重隐私的用户 | 任何人 | 试用一个按设计就在自己机器上运行的模型 | 读页面里关于运行位置的说明 |
如果你的浏览器不支持 WebGPU,或者设备性能较低,可以跳过它,因为模型运行在你自己的硬件上。
| Use case | Who | What they get back |
|---|---|---|
| 试用小模型 | 任何好奇的人 | 在你自己设备上生成的回答 |
| 阅读代码 | 网页开发者 | 一个带有 src 文件夹的 Vite 和 TypeScript 项目 |
| 检查模型 | 研究人员 | 页面列出的两个模型仓库 |
在线版本只需要一个浏览器。要把文件保存到自己的电脑上,你需要下面这些。
pip install -U huggingface_hub hf download webml-community/Baguettotron-WebGPU --repo-type space --local-dir Baguettotron-WebGPU cd Baguettotron-WebGPU
打开这个 Space 的页面,或者从你的副本里加载 dist/index.html,然后在页面里输入一个问题。来源没有描述控件,所以请照着页面上的标签操作。
你打开页面,问一道简短的逻辑题。模型在你的浏览器里处理它,并把答案显示在页面上。来源没有给出示例问题、耗时或结果。
如果你是新手,先问一个简短的问题,并给页面一些时间在首次加载时准备模型。之后的问题应该会快一些。
如果你熟悉这个领域,页面把模型的 ONNX 版本和使用 WebGPU 的浏览器运行时配在一起,所以推理运行在你自己的图形硬件上。项目用 Vite 和 TypeScript 构建。速度和内存占用取决于你的设备,来源没有给出数字。
来源很简短,所以没有描述模型大小、速度和限制。
通过 WebGPU 在浏览器里运行小型的 Baguettotron 推理模型,不需要服务器,也不用安装任何东西。适合想试用浏览器内模型或想读读它如何搭建的人。
由 webml-community 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的,应用自己的文件和许可证在 Hugging Face 上。
它是什么:这个 Space 在你的浏览器里运行 Baguettotron,这是 PleIAs 的一个小型推理模型。名字里提到了 WebGPU,这个 Space 还列出了 onnx-community 团队提供的 ONNX 版本。它是一个静态网页,所以没有服务器替你运行模型。
适合谁:它适合想不注册账号就试用小型语言模型的人,也适合想读一个在浏览器里运行模型的 Vite 和 TypeScript 项目的网页开发者。
Industry | Who uses it | How they use it | Example
软件 | 网页开发者 | 研究模型是如何在页面里加载和运行的 | 打开 src 文件夹,跟着加载代码读
机器学习 | 爱好者 | 不用任何设置就试用小型推理模型 | 打开页面,问一个简短的问题
教育 | 学生 | 看 AI 模型在自己的设备上运行 | 比较几个提示词,记下答案
注重隐私的用户 | 任何人 | 试用一个按设计就在自己机器上运行的模型 | 读页面里关于运行位置的说明
如果你的浏览器不支持 WebGPU,或者设备性能较低,可以跳过它,因为模型运行在你自己的硬件上。
用在哪里:
Use case | Who | What they get back
试用小模型 | 任何好奇的人 | 在你自己设备上生成的回答
阅读代码 | 网页开发者 | 一个带有 src 文件夹的 Vite 和 TypeScript 项目
检查模型 | 研究人员 | 页面列出的两个模型仓库
如何设置:在线版本只需要一个浏览器。要把文件保存到自己的电脑上,你需要下面这些。
pip install -U huggingface_hub
hf download webml-community/Baguettotron-WebGPU --repo-type space --local-dir Baguettotron-WebGPU
cd Baguettotron-WebGPU
如何使用:打开这个 Space 的页面,或者从你的副本里加载 dist/index.html,然后在页面里输入一个问题。来源没有描述控件,所以请照着页面上的标签操作。
示例:你打开页面,问一道简短的逻辑题。模型在你的浏览器里处理它,并把答案显示在页面上。来源没有给出示例问题、耗时或结果。
新手与专家:如果你是新手,先问一个简短的问题,并给页面一些时间在首次加载时准备模型。之后的问题应该会快一些。
如果你熟悉这个领域,页面把模型的 ONNX 版本和使用 WebGPU 的浏览器运行时配在一起,所以推理运行在你自己的图形硬件上。项目用 Vite 和 TypeScript 构建。速度和内存占用取决于你的设备,来源没有给出数字。
你打开页面
浏览器加载 ONNX 模型
WebGPU 在你的设备上运行模型
答案出现在页面上
注意事项:来源很简短,所以没有描述模型大小、速度和限制。
在浏览器里打开这个 Space,或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。
README.md 4 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face Space。
| 产品 | 点赞 | 构建方式 | 许可证 | 最近更新 |
|---|---|---|---|---|
| Baguettotron WebGPU 本页 | 12 | static | apache-2.0 | |
| InferenceSupport共有 static | 764 | static | afl-3.0 | |
| Huggy共有 static | 463 | static | cc-by-nc-sa-4.0 | |
| Z-Image Lookalike LoRA Index共有 static | 189 | static | apache-2.0 | |
| Granite Docling 258M WebGPU共有 static | 163 | static | apache-2.0 | |
| DINOv3 Web共有 static | 162 | static | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。