Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
这个模型读写文本,上下文 1M 个 token,主打编程、智能体调用工具和数学推理,是 NVFP4 形式的 501B 参数混合专家模型。适合有多 GPU 服务器、想用开源模型的团队。
Beam-1.0-501B-A23B-NVFP4 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download reflection/Beam-1.0-501B-A23B-NVFP4
Beam-1.0-501B-A23B-NVFP4 是 Beam 的 NVFP4 量化指令微调版本,Beam 是 Reflection 推出的开源模型。Beam 输入文本,输出文本。它是稀疏混合专家模型,总共有 5010 亿参数,每个 token 激活 230 亿,主要面向英语。
适合有大型 GPU 服务器、想用开源模型做编程、智能体工作和推理的工程团队和研究团队,许可证为 Apache 2.0。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 工程团队 | 修复真实的 GitHub 问题,并在命令行和 DevOps 环境里工作 | 解决仓库里的一个缺陷报告 |
| AI 产品 | 智能体开发者 | 用 MCP 工具和浏览功能完成长流程的多步任务 | 根据一句普通请求完成一个工作流 |
| 科学和教育 | 研究人员 | 处理研究生水平的科学题、证明和应用数学 | 一步一步检查一个证明 |
| 基础设施 | 平台团队 | 在自己的 GPU 上部署一个大型开源模型 | 搭建内部编程助手 |
如果你只有一块 GPU 或一台笔记本,可以跳过它,因为光权重就约 255 GB。
模型卡指向智能体式编程工具和它自己的文档。
| Use case | Who | What they get back |
|---|---|---|
| 软件工程 | 开发者 | 针对真实问题的多种语言代码修改 |
| 智能体工具调用 | 智能体开发者 | 用 MCP 工具和浏览完成的多步任务 |
| 数学和科学 | 研究人员 | 完整的解答和证明 |
你需要 Python、大量磁盘空间和一台多 GPU 服务器。
pip install -U huggingface_hub hf download reflection/Beam-1.0-501B-A23B-NVFP4
部署好检查点后,用它的聊天模板发送聊天请求,模板是修改过的 Harmony 格式。这里给出的模型卡文字没有代码,部署步骤请按 Reflection 文档来。
你让部署好的模型读一份仓库里的缺陷报告并提出修复方案。它用文字回复推理过程和代码修改,因为文字是它唯一的输入和输出。
如果你刚接触大模型,要知道它需要服务器级的机器。先读 Reflection 的文档,把下载放在最后一步。
如果你熟悉这个领域:模型有 52 层,其中 3 层稠密、49 层混合专家,有 256 个专家,采用门控分组查询注意力和滑动窗口注意力。词表 152k 个 token,上下文 1M 个 token。模型卡称,在解答质量相当的情况下,它比领先的开源模型少用约 3 倍推理 token。
这次发布还包含 BF16 和 FP8 检查点,这里是 NVFP4 版本。模型卡把技术报告列为即将发布。
这个模型读写文本,上下文 1M 个 token,主打编程、智能体调用工具和数学推理,是 NVFP4 形式的 501B 参数混合专家模型。适合有多 GPU 服务器、想用开源模型的团队。
由 reflection 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Beam-1.0-501B-A23B-NVFP4 是 Beam 的 NVFP4 量化指令微调版本,Beam 是 Reflection 推出的开源模型。Beam 输入文本,输出文本。它是稀疏混合专家模型,总共有 5010 亿参数,每个 token 激活 230 亿,主要面向英语。
适合谁:适合有大型 GPU 服务器、想用开源模型做编程、智能体工作和推理的工程团队和研究团队,许可证为 Apache 2.0。
Industry | Who uses it | How they use it | Example
软件 | 工程团队 | 修复真实的 GitHub 问题,并在命令行和 DevOps 环境里工作 | 解决仓库里的一个缺陷报告
AI 产品 | 智能体开发者 | 用 MCP 工具和浏览功能完成长流程的多步任务 | 根据一句普通请求完成一个工作流
科学和教育 | 研究人员 | 处理研究生水平的科学题、证明和应用数学 | 一步一步检查一个证明
基础设施 | 平台团队 | 在自己的 GPU 上部署一个大型开源模型 | 搭建内部编程助手
如果你只有一块 GPU 或一台笔记本,可以跳过它,因为光权重就约 255 GB。
用在哪里:模型卡指向智能体式编程工具和它自己的文档。
Use case | Who | What they get back
软件工程 | 开发者 | 针对真实问题的多种语言代码修改
智能体工具调用 | 智能体开发者 | 用 MCP 工具和浏览完成的多步任务
数学和科学 | 研究人员 | 完整的解答和证明
如何设置:你需要 Python、大量磁盘空间和一台多 GPU 服务器。
pip install -U huggingface_hub
hf download reflection/Beam-1.0-501B-A23B-NVFP4
如何使用:部署好检查点后,用它的聊天模板发送聊天请求,模板是修改过的 Harmony 格式。这里给出的模型卡文字没有代码,部署步骤请按 Reflection 文档来。
示例:你让部署好的模型读一份仓库里的缺陷报告并提出修复方案。它用文字回复推理过程和代码修改,因为文字是它唯一的输入和输出。
新手与专家:如果你刚接触大模型,要知道它需要服务器级的机器。先读 Reflection 的文档,把下载放在最后一步。
如果你熟悉这个领域:模型有 52 层,其中 3 层稠密、49 层混合专家,有 256 个专家,采用门控分组查询注意力和滑动窗口注意力。词表 152k 个 token,上下文 1M 个 token。模型卡称,在解答质量相当的情况下,它比领先的开源模型少用约 3 倍推理 token。
用 hf 下载文件
部署 NVFP4 检查点
发送聊天模板格式的消息
把 token 路由到被激活的专家
收到推理和文字回复
注意事项:这次发布还包含 BF16 和 FP8 检查点,这里是 NVFP4 版本。模型卡把技术报告列为即将发布。
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download reflection/Beam-1.0-501B-A23B-NVFP4
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Beam-1.0-501B-A23B-NVFP4 本页 | 6,615 | 45 | 255B | apache-2.0 | |
| Beam-1.0-501B-A23B共有 beam · mixture-of-experts · tool-use | 13,747 | 319 | 501B | apache-2.0 | |
| Hydrogen-1.0 NVFP4共有 nvfp4 · modelopt · 8-bit | 10,959 | 14 | 381B | mit | |
| Qwen3.8-27B-NVFP4共有 nvfp4 · modelopt · 8-bit | 979,445 | 126 | 18.2B | apache-2.0 | |
| VulnLLM-R-7B-8bit共有 8-bit · code · reasoning | 148 | 4 | 7.6B | apache-2.0 | |
| MedErtas v0.1 27B LS共有 nvfp4 · modelopt · text-generation | 4,187 | 6 | 18.2B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。