Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
演示 Hazy Research 的 Next-Concept Modeling,它能并行地把文本从粗略轮廓写到完整序列,涵盖摘要、翻译和数独等任务。适合研究者和好奇的开发者。
Next-Concept Modeling 是一款工具包,属于研究类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download mrfakename/ncm --repo-type space --local-dir ncm cd ncm
Next-Concept Modeling 是 Hazy Research 一种文本生成方法的 Gradio 演示,它从粗到细并行地工作。它使用该团队发布的检查点。每个结果分阶段出现,从一个词元的轮廓开始,到完整序列结束。
想看看一个从粗到细的文本生成器在多个任务上表现如何、又不想自己训练或搭模型的人。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 研究 | 机器学习研究者 | 观察并行生成器一阶段一阶段地细化输出 | 数独任务 |
| 软件 | 开发者 | 阅读引擎文件怎样沿用参考推理循环 | 打开 ncm_engine.py |
| 教育 | 语言模型的学生 | 把分阶段生成和普通的从左到右写作做对比 | 来自 TinyStories 的一个短故事 |
| 语言工作 | 译者 | 看看德译英模型怎样工作 | 一个 WMT14 句子 |
如果你想要通用的聊天助手,可以跳过它,因为这是一个研究演示。
| Use case | Who | What they get back |
|---|---|---|
| 分阶段生成 | 研究者 | 每个层级的输出,从轮廓到完整文本 |
| 做摘要 | 好奇的用户 | 一份 XSum 风格的摘要 |
| 翻译 | 语言学习者 | WMT14 任务给出的德译英结果 |
| 解谜 | 爱好者 | 分阶段解出的数独 |
pip install -U huggingface_hub hf download mrfakename/ncm --repo-type space --local-dir ncm cd ncm pip install gradio==6.30.0 pip install -r requirements.txt python app.py
在线使用时,打开 Space 页面,选一个任务并运行。在自己的电脑上,用下面的命令启动应用,再使用它打开的界面。
python app.py
| Tool | What it does |
|---|---|
| app.py | 启动演示的主 Gradio 文件 |
| ncm_engine.py | 运行生成的引擎,沿用一个参考推理循环 |
| ncm/ | 原项目代码的文件夹,保持未修改 |
| sudoku_ex.json and xsum_ex.json | 数独和 XSum 任务的示例数据 |
你选择数独任务并运行。页面会分阶段显示网格被填满,从粗略的第一版轮廓到完整的答案。
先从一个任务开始,比如 TinyStories,看文字怎样一阶段一阶段地变清晰。这个演示涵盖用 TinyStories 写故事、小中大三种规模的 LM1B、XSum 摘要、用 WMT14 做德译英翻译,以及数独谜题。
ncm 文件夹原样复制自 HazyResearch 项目,使用 MIT 许可证。引擎文件沿用该项目的参考推理循环,并从 hazyresearch/ncm-checkpoints 加载检查点。来源没有给出速度或质量数字,所以这种取舍要靠你自己运行任务来判断。
演示 Hazy Research 的 Next-Concept Modeling,它能并行地把文本从粗略轮廓写到完整序列,涵盖摘要、翻译和数独等任务。适合研究者和好奇的开发者。
由 mrfakename 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的,应用自己的文件和许可证在 Hugging Face 上。
它是什么:Next-Concept Modeling 是 Hazy Research 一种文本生成方法的 Gradio 演示,它从粗到细并行地工作。它使用该团队发布的检查点。每个结果分阶段出现,从一个词元的轮廓开始,到完整序列结束。
适合谁:想看看一个从粗到细的文本生成器在多个任务上表现如何、又不想自己训练或搭模型的人。
Industry | Who uses it | How they use it | Example
研究 | 机器学习研究者 | 观察并行生成器一阶段一阶段地细化输出 | 数独任务
软件 | 开发者 | 阅读引擎文件怎样沿用参考推理循环 | 打开 ncm_engine.py
教育 | 语言模型的学生 | 把分阶段生成和普通的从左到右写作做对比 | 来自 TinyStories 的一个短故事
语言工作 | 译者 | 看看德译英模型怎样工作 | 一个 WMT14 句子
如果你想要通用的聊天助手,可以跳过它,因为这是一个研究演示。
用在哪里:
Use case | Who | What they get back
分阶段生成 | 研究者 | 每个层级的输出,从轮廓到完整文本
做摘要 | 好奇的用户 | 一份 XSum 风格的摘要
翻译 | 语言学习者 | WMT14 任务给出的德译英结果
解谜 | 爱好者 | 分阶段解出的数独
如何设置:
pip install -U huggingface_hub
hf download mrfakename/ncm --repo-type space --local-dir ncm
cd ncm
pip install gradio==6.30.0
pip install -r requirements.txt
python app.py
如何使用:在线使用时,打开 Space 页面,选一个任务并运行。在自己的电脑上,用下面的命令启动应用,再使用它打开的界面。
python app.py
Tool | What it does
app.py | 启动演示的主 Gradio 文件
ncm_engine.py | 运行生成的引擎,沿用一个参考推理循环
ncm/ | 原项目代码的文件夹,保持未修改
sudoku_ex.json and xsum_ex.json | 数独和 XSum 任务的示例数据
示例:你选择数独任务并运行。页面会分阶段显示网格被填满,从粗略的第一版轮廓到完整的答案。
新手与专家:先从一个任务开始,比如 TinyStories,看文字怎样一阶段一阶段地变清晰。这个演示涵盖用 TinyStories 写故事、小中大三种规模的 LM1B、XSum 摘要、用 WMT14 做德译英翻译,以及数独谜题。
ncm 文件夹原样复制自 HazyResearch 项目,使用 MIT 许可证。引擎文件沿用该项目的参考推理循环,并从 hazyresearch/ncm-checkpoints 加载检查点。来源没有给出速度或质量数字,所以这种取舍要靠你自己运行任务来判断。
你选一个任务并运行
ncm_engine.py 加载发布的检查点
生成从一个词元的轮廓开始
每个阶段为完整文本补充细节
注意事项:
在浏览器里打开这个 Space,或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。
README.md 4 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face Space。
| 产品 | 点赞 | 构建方式 | 许可证 | 最近更新 |
|---|---|---|---|---|
| Next-Concept Modeling 本页 | 1 | gradio | mit | |
| Open VLM Leaderboard共有 gradio | 1,034 | gradio | apache-2.0 | |
| Face Swap共有 gradio | 808 | gradio | cc-by-nc-sa-4.0 | |
| TTS Spaces Arena共有 gradio | 493 | gradio | zlib | |
| Depth Anything 3共有 gradio | 490 | gradio | cc-by-nc-4.0 | |
| BLIP共有 gradio | 431 | gradio | bsd-3-clause |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
AbdomenAtlas · 工具包
在 CT 扫描上检测并勾画 9 个器官的肿瘤,使用从放射学报告中学习的 R-Super 方法训练。这是面向医学影像团队的研究模型,采用非商业许可。
dBenf · 工具包
回答关于卫星图像块的类型化问题,使用 Sentinel-2 的全部 12 个波段,为每个选项返回概率,不生成文字。这是 Qwen3.5-0.8B 的微调版本,适合地球观测研究者。
zimmerk4 · 工具包
用一个在 JAX 物理模拟器里学会的小型策略网络,从头到尾通关游戏 Getting Over It。适合强化学习研究者和好奇的动手爱好者。