Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
让你在浏览器里和 gpt-oss-20b-heretic 语言模型对话,它在 ZeroGPU 上运行,只显示最终回答,适合想试用这个社区模型的人。
GPT OSS 20B Heretic Chat 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download locojefe/gpt-oss-20b-heretic-demo --repo-type space --local-dir gpt-oss-20b-heretic-demo cd gpt-oss-20b-heretic-demo
这个 Space 是社区语言模型 gpt-oss-20b-heretic 的对话演示。你在浏览器里输入消息,模型就会回答。应用通过 Transformers 以 BF16 加载原版模型。推理在 ZeroGPU 上运行,而不是走外部服务商,也没有别的模型来替代它。
想快速试用这个模型、又不想自己配置 GPU 的人。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| AI 研究 | 比较开放模型的人 | 和模型对话,判断它的回答质量 | 把同一个问题发给几个模型,比较各自的回复 |
| 软件开发 | 正在选模型的开发者 | 测试模型处理短提示词的表现 | 下载权重之前先试一个编程问题 |
| 教育 | 学习语言模型的学生 | 观察 20B 模型在普通对话里怎么回答 | 问几个通用问题并阅读回复 |
如果你需要很长的对话或很长的回答,可以跳过它,因为这个演示对两者都有上限。
| 使用场景 | 谁用 | 得到什么 |
|---|---|---|
| 在对话里试用模型 | 好奇的用户 | 每条消息对应一个最终回答 |
| 在更广泛使用之前检查模型 | 开发者 | 对它回复风格的快速印象 |
| 运行演示的本地副本 | 懂 Python 的人 | 在自己电脑上运行同一个 Gradio 应用 |
在线使用不需要安装任何东西。在自己电脑上运行副本则需要先准备几样东西。
pip install -U huggingface_hub hf download locojefe/gpt-oss-20b-heretic-demo --repo-type space --local-dir gpt-oss-20b-heretic-demo cd gpt-oss-20b-heretic-demo pip install gradio==6.30.0 pip install -r requirements.txt python app.py
来源没有说明本地运行需要什么硬件,所以尝试之前请先确认。
打开 Hugging Face 上这个 Space 的页面,在对话框里输入消息。模型只回复最终回答。推理过程的 token 不会显示,但仍计入输出预算。每次对话最多 3,072 个输入 token 和 1,024 个新生成 token。想自己运行这个应用,就用 Python 启动它。
python app.py
你输入 "Explain what a hash table is in two sentences."。模型回复一段简短的解释,没有别的内容。你看不到它的推理过程,回复到达 1,024 个新 token 的上限时就会停止。
这是专为某一个模型做的对话页面。第一步,在浏览器里打开这个 Space,发一个简短的问题。你的消息只保留在浏览器会话里,应用不会保存对话记录。
底层是 Python 3.12 上的 Gradio 6.30.0。它固定使用某一个模型版本,并采用该模型的 Harmony 对话模板。因为推理 token 和回答共用同一份输出预算,推理过长会让回复的空间变小。在 ZeroGPU 上还要遵守 Hugging Face 的排队政策。
让你在浏览器里和 gpt-oss-20b-heretic 语言模型对话,它在 ZeroGPU 上运行,只显示最终回答,适合想试用这个社区模型的人。
由 locojefe 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的,应用自己的文件和许可证在 Hugging Face 上。
它是什么:这个 Space 是社区语言模型 gpt-oss-20b-heretic 的对话演示。你在浏览器里输入消息,模型就会回答。应用通过 Transformers 以 BF16 加载原版模型。推理在 ZeroGPU 上运行,而不是走外部服务商,也没有别的模型来替代它。
适合谁:想快速试用这个模型、又不想自己配置 GPU 的人。
行业 | 谁在用 | 怎么用 | 例子
AI 研究 | 比较开放模型的人 | 和模型对话,判断它的回答质量 | 把同一个问题发给几个模型,比较各自的回复
软件开发 | 正在选模型的开发者 | 测试模型处理短提示词的表现 | 下载权重之前先试一个编程问题
教育 | 学习语言模型的学生 | 观察 20B 模型在普通对话里怎么回答 | 问几个通用问题并阅读回复
如果你需要很长的对话或很长的回答,可以跳过它,因为这个演示对两者都有上限。
用在哪里:
使用场景 | 谁用 | 得到什么
在对话里试用模型 | 好奇的用户 | 每条消息对应一个最终回答
在更广泛使用之前检查模型 | 开发者 | 对它回复风格的快速印象
运行演示的本地副本 | 懂 Python 的人 | 在自己电脑上运行同一个 Gradio 应用
如何设置:在线使用不需要安装任何东西。在自己电脑上运行副本则需要先准备几样东西。
pip install -U huggingface_hub
hf download locojefe/gpt-oss-20b-heretic-demo --repo-type space --local-dir gpt-oss-20b-heretic-demo
cd gpt-oss-20b-heretic-demo
pip install gradio==6.30.0
pip install -r requirements.txt
python app.py
来源没有说明本地运行需要什么硬件,所以尝试之前请先确认。
如何使用:打开 Hugging Face 上这个 Space 的页面,在对话框里输入消息。模型只回复最终回答。推理过程的 token 不会显示,但仍计入输出预算。每次对话最多 3,072 个输入 token 和 1,024 个新生成 token。想自己运行这个应用,就用 Python 启动它。
python app.py
示例:你输入 "Explain what a hash table is in two sentences."。模型回复一段简短的解释,没有别的内容。你看不到它的推理过程,回复到达 1,024 个新 token 的上限时就会停止。
新手与专家:这是专为某一个模型做的对话页面。第一步,在浏览器里打开这个 Space,发一个简短的问题。你的消息只保留在浏览器会话里,应用不会保存对话记录。
底层是 Python 3.12 上的 Gradio 6.30.0。它固定使用某一个模型版本,并采用该模型的 Harmony 对话模板。因为推理 token 和回答共用同一份输出预算,推理过长会让回复的空间变小。在 ZeroGPU 上还要遵守 Hugging Face 的排队政策。
在浏览器里打开 Space
在对话框里发送消息
模型在 ZeroGPU 上运行
只显示最终回答
注意事项:
在浏览器里打开这个 Space,或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。
README.md 4 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face Space。
| 产品 | 点赞 | 构建方式 | 许可证 | 最近更新 |
|---|---|---|---|---|
| GPT OSS 20B Heretic Chat 本页 | 1 | gradio | apache-2.0 | |
| Z Image Turbo共有 mcp-server · gradio | 1,940 | gradio | apache-2.0 | |
| TRELLIS共有 mcp-server · gradio | 817 | gradio | mit | |
| FLUX.2 Klein LoRA Studio共有 mcp-server · gradio | 170 | gradio | apache-2.0 | |
| SAM3 Demo共有 mcp-server · gradio | 91 | gradio | apache-2.0 | |
| TRELLIS.2-Text-to-3D (Rerun)共有 mcp-server · gradio | 58 | gradio | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。