Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
Reflection 推出的开放指令微调文本模型,501B 参数,每次激活 23B,上下文 1M token,面向编程、工具使用和推理。需要大型多 GPU 服务器才能运行。
Beam-1.0-501B-A23B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download reflection/Beam-1.0-501B-A23B
Beam-1.0-501B-A23B 是 Reflection 推出的开放模型,输入文字,输出文字。它采用稀疏混合专家设计,总共 501B 参数,每个 token 激活 23B。卡片描述了 1M token 的上下文窗口,并说它主要为英语开发。这次发布的是指令微调模型,提供 BF16、FP8 和 NVFP4 三种形式。
有大型 GPU 服务器、想要一个大型开放模型来做编程智能体、使用工具的智能体和高难度推理的团队,以及研究大型开放模型的研究者。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件工程 | 工程团队 | 修复问题,并在终端和 DevOps 环境里工作 | 一个会提交拉取请求的编程智能体 |
| 智能体构建 | 智能体开发者 | 用工具完成长的多步骤任务 | 一个完成调研任务的浏览智能体 |
| 研究 | 机器学习研究者 | 研究一个大型稀疏模型和它的推理 | 测试它怎样花费推理 token |
| 科学与数学 | 分析师 | 解研究生水平的问题 | 一次逐步的证明尝试 |
如果你只有笔记本或一块消费级 GPU,可以跳过它,因为光权重在 BF16 下就约有 1 TB。
| Use case | Who | What they get back |
|---|---|---|
| 软件任务 | 工程师 | 代码、修复和命令行步骤 |
| 智能体工作 | 智能体开发者 | 由自然语言指令得到的多步骤结果 |
| 推理 | 研究者 | 数学和科学问题的完整解答 |
pip install -U huggingface_hub hf download reflection/Beam-1.0-501B-A23B
卡片在这里可见的部分没有运行命令,所以请按它的服务说明和厂商的文档操作。模型接收聊天式的文字提示,并用文字回复。卡片说技术报告还在准备中。
你把一个编程智能体指向这个模型,并给它一份来自真实项目的错误报告。按卡片所说,模型可以读懂问题,在命令行环境里工作并提出修复,不过这里的卡片没有展示示例运行。
如果你是新手,先试试较小的开放模型,因为这个模型需要非常大的服务器。专家可以把它的推理成本和其他开放模型对比,卡片说这是它的主要卖点。
卡片列出 52 层,其中 3 层稠密、49 层混合专家,有 256 个专家,词表 152k token,以及带门控的分组查询注意力与滑动窗口注意力交错。它说 Beam 在用大约三分之一推理 token 的情况下,达到与领先开放模型相近的回答质量。在你自己测试之前,请把这当作厂商的说法。
Reflection 推出的开放指令微调文本模型,501B 参数,每次激活 23B,上下文 1M token,面向编程、工具使用和推理。需要大型多 GPU 服务器才能运行。
由 reflection 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Beam-1.0-501B-A23B 是 Reflection 推出的开放模型,输入文字,输出文字。它采用稀疏混合专家设计,总共 501B 参数,每个 token 激活 23B。卡片描述了 1M token 的上下文窗口,并说它主要为英语开发。这次发布的是指令微调模型,提供 BF16、FP8 和 NVFP4 三种形式。
适合谁:有大型 GPU 服务器、想要一个大型开放模型来做编程智能体、使用工具的智能体和高难度推理的团队,以及研究大型开放模型的研究者。
Industry | Who uses it | How they use it | Example
软件工程 | 工程团队 | 修复问题,并在终端和 DevOps 环境里工作 | 一个会提交拉取请求的编程智能体
智能体构建 | 智能体开发者 | 用工具完成长的多步骤任务 | 一个完成调研任务的浏览智能体
研究 | 机器学习研究者 | 研究一个大型稀疏模型和它的推理 | 测试它怎样花费推理 token
科学与数学 | 分析师 | 解研究生水平的问题 | 一次逐步的证明尝试
如果你只有笔记本或一块消费级 GPU,可以跳过它,因为光权重在 BF16 下就约有 1 TB。
用在哪里:
Use case | Who | What they get back
软件任务 | 工程师 | 代码、修复和命令行步骤
智能体工作 | 智能体开发者 | 由自然语言指令得到的多步骤结果
推理 | 研究者 | 数学和科学问题的完整解答
如何设置:
pip install -U huggingface_hub
hf download reflection/Beam-1.0-501B-A23B
如何使用:卡片在这里可见的部分没有运行命令,所以请按它的服务说明和厂商的文档操作。模型接收聊天式的文字提示,并用文字回复。卡片说技术报告还在准备中。
示例:你把一个编程智能体指向这个模型,并给它一份来自真实项目的错误报告。按卡片所说,模型可以读懂问题,在命令行环境里工作并提出修复,不过这里的卡片没有展示示例运行。
新手与专家:如果你是新手,先试试较小的开放模型,因为这个模型需要非常大的服务器。专家可以把它的推理成本和其他开放模型对比,卡片说这是它的主要卖点。
卡片列出 52 层,其中 3 层稠密、49 层混合专家,有 256 个专家,词表 152k token,以及带门控的分组查询注意力与滑动窗口注意力交错。它说 Beam 在用大约三分之一推理 token 的情况下,达到与领先开放模型相近的回答质量。在你自己测试之前,请把这当作厂商的说法。
你发送文字提示或任务
路由器为每个 token 选几个专家
模型推理,若已设置则使用工具
它写出回答或下一步
注意事项:
Title: 权重的磁盘大小,单位 GB
BF16: 1,003 GB
4-bit estimate: 251 GB
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download reflection/Beam-1.0-501B-A23B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Beam-1.0-501B-A23B 本页 | 13,747 | 319 | 501B | apache-2.0 | |
| Beam-1.0-501B-A23B-NVFP4共有 beam · mixture-of-experts · tool-use | 6,615 | 45 | 255B | apache-2.0 | |
| Maple-Preview共有 mixture-of-experts · reasoning · text-generation | 1,867 | 433 | 20.2B | mit | |
| Occamy-1.0共有 mixture-of-experts · tool-use · conversational | 1,807 | 240 | 35.1B | apache-2.0 | |
| ColGrep-Agent-2B共有 tool-use · code · text-generation | 1,141 | 38 | 2.5B | apache-2.0 | |
| NeoHorse-1-9B共有 tool-use · reasoning · text-generation | 1,548 | 1,051 | 9B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。