Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
DeepSmolLM3-3B 的浏览器聊天演示,这是一个 3B 参数的推理模型,会把长篇思考和答案分开显示。适合想不用 API 密钥就试试小型推理模型的人。
DeepSmolLM3 3B Chat 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download Oxygen-Low/DeepSmolLM3-3B --repo-type space --local-dir DeepSmolLM3-3B cd DeepSmolLM3-3B
DeepSmolLM3 3B Chat 是 Oxygen-Low 的 DeepSmolLM3-3B 的聊天演示,这是一个 3B 参数的推理模型。该模型由 HuggingFaceTB 的 SmolLM3-3B 在 Jackrong/DeepSeek-V4-Pro-Distilled-200K 数据集上微调而来。你在浏览器里和它对话,它的长篇推理会和答案分开显示。
适合想看小型推理模型怎样一步步解决问题的人。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 机器学习 | 研究人员 | 阅读 3B 模型产生的推理 | 问一个逻辑谜题,读与答案分开显示的思考 |
| 软件 | 开发者 | 测试采样设置如何改变回复 | 调高温度并比较两个答案 |
| 教育 | 学生 | 看模型一步步解决问题 | 请它检查一道数学题并跟着它的推理走 |
如果你需要给自己的应用用的托管 API,可以跳过它,因为这只是一个聊天页面。
你可以在线使用,也可以自己运行一份副本。
| Use case | Who | What they get back |
|---|---|---|
| 和推理模型聊天 | 好奇的人 | 思考与答案分开显示的回复 |
| 调整生成设置 | 研究人员 | 受系统提示词、长度、温度和 top-p 影响的回复 |
| 对比开启与关闭思考 | 开发者 | 同一个问题在有无扩展推理时的回答 |
托管的聊天什么都不用装。本地副本需要 Python 和 pip。
pip install -U huggingface_hub hf download Oxygen-Low/DeepSmolLM3-3B --repo-type space --local-dir DeepSmolLM3-3B cd DeepSmolLM3-3B pip install gradio==6.5.1 pip install -r requirements.txt python app.py
在线打开这个 Space,或者用下面的命令启动你的副本。然后输入一条消息,看回复流式出现,想要不同结果时就调整设置。
python app.py
| Tool | What it does |
|---|---|
| Thinking mode toggle | 打开或关闭模型的推理 |
| /think | 请求扩展思考,长篇推理显示在单独的位置 |
| System prompt | 填写后会取代 SmolLM3 内置的推理指令 |
| Output length | 设置回复的长度,最多 8192 个 token |
| Temperature and top-p | 控制回复的多样程度 |
你问:"Is 91 a prime number? Explain your reasoning." 推理模型会逐步思考这个问题,它的长篇思考与答案分开显示,然后最终回复流式出现。
如果你刚接触,先把系统消息留空,只问一个问题。这样模型会用它自己的推理指令,你就能看到它是怎么思考的。
如果你熟悉这个领域,这是一个在蒸馏数据集上从 SmolLM3-3B 微调出来的 3B 模型,应用在 ZeroGPU 上用 transformers 流式输出 token。自己写系统提示词会替换掉 SmolLM3 的默认推理指令,模型之后可能不先思考就直接回答。
思考是可选的,设置会改变你得到的结果。
DeepSmolLM3-3B 的浏览器聊天演示,这是一个 3B 参数的推理模型,会把长篇思考和答案分开显示。适合想不用 API 密钥就试试小型推理模型的人。
由 Oxygen-Low 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的,应用自己的文件和许可证在 Hugging Face 上。
它是什么:DeepSmolLM3 3B Chat 是 Oxygen-Low 的 DeepSmolLM3-3B 的聊天演示,这是一个 3B 参数的推理模型。该模型由 HuggingFaceTB 的 SmolLM3-3B 在 Jackrong/DeepSeek-V4-Pro-Distilled-200K 数据集上微调而来。你在浏览器里和它对话,它的长篇推理会和答案分开显示。
适合谁:适合想看小型推理模型怎样一步步解决问题的人。
Title: 谁会用这个演示
Industry | Who uses it | How they use it | Example
机器学习 | 研究人员 | 阅读 3B 模型产生的推理 | 问一个逻辑谜题,读与答案分开显示的思考
软件 | 开发者 | 测试采样设置如何改变回复 | 调高温度并比较两个答案
教育 | 学生 | 看模型一步步解决问题 | 请它检查一道数学题并跟着它的推理走
如果你需要给自己的应用用的托管 API,可以跳过它,因为这只是一个聊天页面。
用在哪里:你可以在线使用,也可以自己运行一份副本。
Title: 这个演示适合做什么
Use case | Who | What they get back
和推理模型聊天 | 好奇的人 | 思考与答案分开显示的回复
调整生成设置 | 研究人员 | 受系统提示词、长度、温度和 top-p 影响的回复
对比开启与关闭思考 | 开发者 | 同一个问题在有无扩展推理时的回答
如何设置:托管的聊天什么都不用装。本地副本需要 Python 和 pip。
pip install -U huggingface_hub
hf download Oxygen-Low/DeepSmolLM3-3B --repo-type space --local-dir DeepSmolLM3-3B
cd DeepSmolLM3-3B
pip install gradio==6.5.1
pip install -r requirements.txt
python app.py
如何使用:在线打开这个 Space,或者用下面的命令启动你的副本。然后输入一条消息,看回复流式出现,想要不同结果时就调整设置。
python app.py
Title: 你会用到的控件
Tool | What it does
Thinking mode toggle | 打开或关闭模型的推理
/think | 请求扩展思考,长篇推理显示在单独的位置
System prompt | 填写后会取代 SmolLM3 内置的推理指令
Output length | 设置回复的长度,最多 8192 个 token
Temperature and top-p | 控制回复的多样程度
示例:你问:"Is 91 a prime number? Explain your reasoning." 推理模型会逐步思考这个问题,它的长篇思考与答案分开显示,然后最终回复流式出现。
新手与专家:如果你刚接触,先把系统消息留空,只问一个问题。这样模型会用它自己的推理指令,你就能看到它是怎么思考的。
如果你熟悉这个领域,这是一个在蒸馏数据集上从 SmolLM3-3B 微调出来的 3B 模型,应用在 ZeroGPU 上用 transformers 流式输出 token。自己写系统提示词会替换掉 SmolLM3 的默认推理指令,模型之后可能不先思考就直接回答。
你输入一条消息
模型长篇推理
思考与答案分开显示
最终回复流式出现
注意事项:思考是可选的,设置会改变你得到的结果。
在浏览器里打开这个 Space,或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face Space。
| 产品 | 点赞 | 构建方式 | 许可证 | 最近更新 |
|---|---|---|---|---|
| DeepSmolLM3 3B Chat 本页 | 1 | gradio | apache-2.0 | |
| FLUX.1 [dev]共有 gradio | 9,583 | gradio | mit | |
| InstantID共有 gradio | 3,659 | gradio | apache-2.0 | |
| Chat With Janus-Pro-7B共有 gradio | 2,036 | gradio | mit | |
| PhotoMaker共有 gradio | 1,960 | gradio | apache-2.0 | |
| Z Image Turbo共有 gradio | 1,940 | gradio | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。