Pluto 124M Chat

Pluto 124M Chat

一个完全在浏览器里运行的小型聊天模型，通过 onnxruntime-web，用 WebGPU 或 WebAssembly，没有服务器参与推理。适合想要私密、本地聊天演示的人。

由 xxparthparekhxx 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的，应用自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这个 Space 在你的浏览器里运行 Pluto，一个从零训练的小型聊天模型。它用 onnxruntime-web，WebGPU 更快时用 WebGPU，否则用多线程 WebAssembly。没有服务器做推理，所以你的消息都在你自己的设备上处理。

适合谁：适合想不安装任何东西就试一个本地聊天模型的人，也适合想要一个浏览器内运行模型的可用示例的开发者。

Industry | Who uses it | How they use it | Example
AI 开发 | 开发者 | 研究浏览器内模型的搭建方式 | 阅读静态页面和它的 ort 文件夹
教育 | 学生 | 看看小型聊天模型能做什么、不能做什么 | 打开 Space 问一个简短的问题
注重隐私的工作 | 普通用户 | 和一个留在设备上的模型聊天 | 在没有服务器参与的情况下试一个提示词

需要长对话或高质量回答的人可以跳过它，因为模型很小，记忆有限。

用在哪里：

• 浏览器：这个 Space 在 Hugging Face 上运行，不用安装任何东西
• Windows、macOS 或 Linux：在浏览器里打开下载好的 index.html

Use case | Who | What they get back
本地聊天 | 普通用户 | 在你自己设备上生成的回复
研究这个页面 | 开发者 | 一个运行 ONNX 模型的静态页面

如何设置：

• Windows、macOS 或 Linux 上的 Python 和 pip，只用来下载文件
• 一个网页浏览器，最好支持 WebGPU
• 浏览器缓存里要留出放模型文件的空间，它只下载一次

1. 安装 Hugging Face hub 包。
2. 把 Space 的文件下载到一个文件夹。
3. 进入这个文件夹。
4. 用任意浏览器打开 index.html。

pip install -U huggingface_hub
hf download xxparthparekhxx/pluto-chat --repo-type space --local-dir pluto-chat
cd pluto-chat

如何使用：打开 Space 页面，或者本地的 index.html，输入一条消息。页面会把你的提示词整理成模型微调时用的聊天格式。一旦聊天超出模型 1,024 个 token 的窗口，页面就丢弃最早的消息。

示例：你在页面里输入一个简短的问题。模型在你的设备上回答，第一次加载更久，因为模型文件要先下载，然后保存在浏览器缓存里。

新手与专家：如果你是新手，先打开这个 Space，问一句简短的话。期望不要太高，因为这是一个约 1.24 亿参数的小模型。

如果你是专家，页面加载一个约 243 MB 的 fp16 ONNX 导出，带显式 KV 缓存。作者在 2 万个留出的 FineWeb-Edu token 上把它和 PyTorch 模型做了对比，报告说两者在下一个 token 上有 99.8% 的时候一致。

你输入一条消息
页面构建聊天提示
onnxruntime-web 在本地运行模型
回复出现在页面里

注意事项：

• License: apache-2
• Cost to run: 没有提到
• Data it reaches: 只下载一次的模型文件，而你的消息留在设备上
• Not for: 长对话，因为上下文限制在 1,024 个 token

Hugging Face 上的数据（2026年11月13日）

• 点赞：1
• 构建方式：static
• 许可证：apache-2.0

链接

• Space：https://huggingface.co/spaces/xxparthparekhxx/pluto-chat
• 文件：https://huggingface.co/spaces/xxparthparekhxx/pluto-chat/tree/main

试用

在浏览器里打开这个 Space，或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。