Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
用于生成文本,处理规划和调用工具等多步骤任务,支持中英文和 256K 上下文。这是一个混合专家模型,适合自行部署运行的开发者。
Xing4.0-29B-A4B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download XingChen-AGI/Xing4.0-29B-A4B
Xing4.0-29B-A4B 是 XingChen-AGI 发布的文本生成模型,面向 transformers 库。它主要处理需要长输入规划、逐步推理、调用工具和结构化回复的工程任务。它是混合专家模型,总参数 29B,每个 token 约激活 4B,能读中文和英文。
如果你想要一个可以自己运行和调整的开源权重模型,用于智能体工作或中英文文本,它就适合你。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件开发 | 构建编程智能体的开发者 | 把模型当作智能体的引擎,让它规划并调用工具 | 一个分几步处理缺陷报告的脚本 |
| AI 研究 | 微调开源模型的团队 | 从 BF16 权重出发,用自己的数据训练 | 针对某个主题调优的中英文助手 |
| 数据工程 | 把模型输出交给其他程序的工程师 | 要求回复采用固定结构 | 返回字段供其他程序读取的任务 |
| 文档分析 | 阅读长文件的分析人员 | 贴入长文档后提问 | 针对一份能装进 256K 上下文的报告提问 |
如果你只想用现成的聊天网站,或者你的机器装不下这种规模的模型,可以跳过它。
| 用例 | 谁 | 得到什么 |
|---|---|---|
| 多步骤智能体任务 | 开发者 | 一份计划和调用工具的请求 |
| 长输入提问 | 分析人员 | 基于最长 256K token 输入的回答 |
| 结构化输出 | 工程师 | 版式固定、便于其他程序读取的回复 |
| 中英文对话 | 任何人 | 中文或英文的纯文本回复 |
你需要先准备:
pip install -U huggingface_hub hf download XingChen-AGI/Xing4.0-29B-A4B
FP8、GGUF 和 W8A8 版本在各自独立的仓库里。GGUF 版本提供 2 到 8 位、11 到 34 GB 的文件,供 llama.cpp 使用。
下载完成后,你在 transformers 中加载模型并向它发送聊天消息,模型卡的推理部分有示范。模型卡还有一节推荐的生成参数。来源给出的命令只用来获取文件。
hf download XingChen-AGI/Xing4.0-29B-A4B
| 工具 | 作用 |
|---|---|
| pip install -U huggingface_hub | 安装或更新 Hugging Face 的下载客户端 |
| hf download | 把模型仓库的文件下载到你的电脑 |
你贴上一个失败的测试和它的日志,请它分步骤规划修复,并说明先调用哪个工具。模型会给出分步计划。如果你的智能体框架提供了工具,它还能按名称请求调用某个工具。
这是一个需要你自己下载并运行的语言模型,而不是在网站上聊天。第一步可以先运行上面的两条下载命令,再读模型卡里的快速上手部分,之后再加载,因为文件很大。
在底层,它是基于 mHC、MLA 和 MTP 设计的混合专家 transformer,每个 token 约有 13.8% 的参数处于激活状态。这降低了每个 token 的计算量,但所有权重仍要放进内存。上下文原生为 256K token,模型卡说可扩展到 512K。训练语料是 1.5 万亿个中英文 token。
用于生成文本,处理规划和调用工具等多步骤任务,支持中英文和 256K 上下文。这是一个混合专家模型,适合自行部署运行的开发者。
由 XingChen-AGI 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Xing4.0-29B-A4B 是 XingChen-AGI 发布的文本生成模型,面向 transformers 库。它主要处理需要长输入规划、逐步推理、调用工具和结构化回复的工程任务。它是混合专家模型,总参数 29B,每个 token 约激活 4B,能读中文和英文。
适合谁:如果你想要一个可以自己运行和调整的开源权重模型,用于智能体工作或中英文文本,它就适合你。
行业 | 谁在用 | 怎么用 | 例子
软件开发 | 构建编程智能体的开发者 | 把模型当作智能体的引擎,让它规划并调用工具 | 一个分几步处理缺陷报告的脚本
AI 研究 | 微调开源模型的团队 | 从 BF16 权重出发,用自己的数据训练 | 针对某个主题调优的中英文助手
数据工程 | 把模型输出交给其他程序的工程师 | 要求回复采用固定结构 | 返回字段供其他程序读取的任务
文档分析 | 阅读长文件的分析人员 | 贴入长文档后提问 | 针对一份能装进 256K 上下文的报告提问
如果你只想用现成的聊天网站,或者你的机器装不下这种规模的模型,可以跳过它。
用在哪里:
用例 | 谁 | 得到什么
多步骤智能体任务 | 开发者 | 一份计划和调用工具的请求
长输入提问 | 分析人员 | 基于最长 256K token 输入的回答
结构化输出 | 工程师 | 版式固定、便于其他程序读取的回复
中英文对话 | 任何人 | 中文或英文的纯文本回复
如何设置:
你需要先准备:
pip install -U huggingface_hub
hf download XingChen-AGI/Xing4.0-29B-A4B
FP8、GGUF 和 W8A8 版本在各自独立的仓库里。GGUF 版本提供 2 到 8 位、11 到 34 GB 的文件,供 llama.cpp 使用。
如何使用:下载完成后,你在 transformers 中加载模型并向它发送聊天消息,模型卡的推理部分有示范。模型卡还有一节推荐的生成参数。来源给出的命令只用来获取文件。
hf download XingChen-AGI/Xing4.0-29B-A4B
工具 | 作用
pip install -U huggingface_hub | 安装或更新 Hugging Face 的下载客户端
hf download | 把模型仓库的文件下载到你的电脑
示例:你贴上一个失败的测试和它的日志,请它分步骤规划修复,并说明先调用哪个工具。模型会给出分步计划。如果你的智能体框架提供了工具,它还能按名称请求调用某个工具。
新手与专家:这是一个需要你自己下载并运行的语言模型,而不是在网站上聊天。第一步可以先运行上面的两条下载命令,再读模型卡里的快速上手部分,之后再加载,因为文件很大。
在底层,它是基于 mHC、MLA 和 MTP 设计的混合专家 transformer,每个 token 约有 13.8% 的参数处于激活状态。这降低了每个 token 的计算量,但所有权重仍要放进内存。上下文原生为 256K token,模型卡说可扩展到 512K。训练语料是 1.5 万亿个中英文 token。
用 hf download 下载文件
在 transformers 中加载模型
发送最长 256K token 的提示词
专家激活,每个 token 约 4B
返回文本或工具请求
注意事项:
Title: 按精度划分的权重大小
BF16: 62.4 GB
4 位估算: 15.6 GB
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download XingChen-AGI/Xing4.0-29B-A4B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Xing4.0-29B-A4B 本页 | 5,406 | 1,867 | 31.2B | apache-2.0 | |
| Qwen3-0.6B共有 text-generation · conversational · transformers | 19,718,599 | 1,894 | 752M | apache-2.0 | |
| Qwen3-14B共有 text-generation · conversational · transformers | 12,965,376 | 540 | 14.8B | apache-2.0 | |
| Qwen2.5-7B-Instruct共有 text-generation · conversational · transformers | 6,364,238 | 2,494 | 7.6B | apache-2.0 | |
| Qwen3-8B共有 text-generation · conversational · transformers | 6,269,141 | 2,184 | 8.2B | apache-2.0 | |
| gpt-oss-20b共有 text-generation · conversational · transformers | 5,685,450 | 5,299 | 20.9B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。