Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
读取文字和图片并输出文字,适合想在自己的 GPU 或工作站上,用 Google DeepMind 开放权重模型做编程、推理和图片提问的开发者。
gemma-4-26B-A4B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download google/gemma-4-26B-A4B
Gemma 4 26B A4B 是 Google DeepMind 开放的 Gemma 4 系列中的一个规格。它读取文字和图片并输出文字,采用 Mixture-of-Experts 架构。仓库里是约 25.8B 参数的 Safetensors 文件,面向 transformers 库。
如果你想用一个开放权重模型做文本生成、编程、推理和图片理解,并在消费级 GPU 或工作站上运行,它适合你,开发者和研究人员尤其合适。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 开发者 | 给自己的应用加入编程帮助和推理 | 请它审查一个函数 |
| 研究 | 机器学习研究人员 | 研究开放的 Mixture-of-Experts 模型 | 和系列里的稠密规格做对比 |
| 产品团队 | 智能体开发者 | 构建能调用函数的助手 | 给模型一个工具,让它自己决定何时使用 |
如果你需要音频输入,可以跳过这个规格,因为模型卡只在 E2B、E4B 和 12B 模型上列出了音频。
| 用途 | 适合谁 | 得到什么 |
|---|---|---|
| 文本生成 | 写作者和开发者 | 针对提示词写出的回复 |
| 编程帮助 | 开发者 | 文字形式的代码和解释 |
| 图片提问 | 有图片要查看的人 | 针对你提供的图片给出的文字回答 |
| 推理 | 研究人员 | 逐步的回答,思考模式可以配置 |
你需要 Python 和足够的磁盘空间。BF16 文件约 51.6 GB,4 位副本估计约 12.9 GB。
pip install -U huggingface_hub hf download google/gemma-4-26B-A4B
用 transformers 加载下载好的文件,给模型输入文字,或者图片加文字。system 角色可以为对话设定规则。模型卡说思考模式可以配置,具体设置请看它自己的页面。
你给模型一张图表照片,让它用两句话说出主要趋势,它用文字回答。你还可以用一条系统消息让它保持简短、正式的回复。
你可以把它看作一个看图加看问题,再写出答案的模型。第一次小测试就是一张图片加一个简短问题。如果这个规格对你的电脑太大,系列里还有更小的规格。
在底层,注意力层在局部滑动窗口和完整全局注意力之间交替,最后一层始终是全局的。全局层共享键和值,并使用 Proportional RoPE,在长上下文中节省内存。Mixture-of-Experts 设计用更大的文件换取每个 token 更低的计算量。
这个系列的上下文窗口可达 256K token,支持超过 140 种语言。其他人发布了 35 个量化版本和 91 个微调版本。发布内容包含预训练和指令微调两类变体,所以请看仓库名确认你拿到的是哪一种。
读取文字和图片并输出文字,适合想在自己的 GPU 或工作站上,用 Google DeepMind 开放权重模型做编程、推理和图片提问的开发者。
由 google 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Gemma 4 26B A4B 是 Google DeepMind 开放的 Gemma 4 系列中的一个规格。它读取文字和图片并输出文字,采用 Mixture-of-Experts 架构。仓库里是约 25.8B 参数的 Safetensors 文件,面向 transformers 库。
适合谁:如果你想用一个开放权重模型做文本生成、编程、推理和图片理解,并在消费级 GPU 或工作站上运行,它适合你,开发者和研究人员尤其合适。
Title: Who uses this model
行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 给自己的应用加入编程帮助和推理 | 请它审查一个函数
研究 | 机器学习研究人员 | 研究开放的 Mixture-of-Experts 模型 | 和系列里的稠密规格做对比
产品团队 | 智能体开发者 | 构建能调用函数的助手 | 给模型一个工具,让它自己决定何时使用
如果你需要音频输入,可以跳过这个规格,因为模型卡只在 E2B、E4B 和 12B 模型上列出了音频。
用在哪里:
Title: Jobs it does
用途 | 适合谁 | 得到什么
文本生成 | 写作者和开发者 | 针对提示词写出的回复
编程帮助 | 开发者 | 文字形式的代码和解释
图片提问 | 有图片要查看的人 | 针对你提供的图片给出的文字回答
推理 | 研究人员 | 逐步的回答,思考模式可以配置
如何设置:你需要 Python 和足够的磁盘空间。BF16 文件约 51.6 GB,4 位副本估计约 12.9 GB。
pip install -U huggingface_hub
hf download google/gemma-4-26B-A4B
如何使用:用 transformers 加载下载好的文件,给模型输入文字,或者图片加文字。system 角色可以为对话设定规则。模型卡说思考模式可以配置,具体设置请看它自己的页面。
示例:你给模型一张图表照片,让它用两句话说出主要趋势,它用文字回答。你还可以用一条系统消息让它保持简短、正式的回复。
新手与专家:你可以把它看作一个看图加看问题,再写出答案的模型。第一次小测试就是一张图片加一个简短问题。如果这个规格对你的电脑太大,系列里还有更小的规格。
在底层,注意力层在局部滑动窗口和完整全局注意力之间交替,最后一层始终是全局的。全局层共享键和值,并使用 Proportional RoPE,在长上下文中节省内存。Mixture-of-Experts 设计用更大的文件换取每个 token 更低的计算量。
输入文字或图片
混合注意力层
Mixture-of-Experts 模块
输出文字
注意事项:这个系列的上下文窗口可达 256K token,支持超过 140 种语言。其他人发布了 35 个量化版本和 91 个微调版本。发布内容包含预训练和指令微调两类变体,所以请看仓库名确认你拿到的是哪一种。
Title: Estimated weight size
BF16: 51.6 GB
4 位: 12.9 GB
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download google/gemma-4-26B-A4B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| gemma-4-26B-A4B 本页 | 74,790 | 470 | 25.8B | apache-2.0 | |
| gemma-4-31B-it共有 gemma4 · image-text-to-text · transformers | 6,692,367 | 4,348 | 31.3B | apache-2.0 | |
| gemma-4-26B-A4B-it共有 gemma4 · image-text-to-text · transformers | 5,304,019 | 1,758 | 25.8B | apache-2.0 | |
| gemma-4-E4B-it共有 gemma4 · image-text-to-text · transformers | 4,298,348 | 1,850 | 8B | apache-2.0 | |
| gemma-4-E2B-it共有 gemma4 · image-text-to-text · transformers | 3,017,059 | 1,129 | 5.1B | apache-2.0 | |
| gemma-4-E4B共有 gemma4 · image-text-to-text · transformers | 449,316 | 508 | 8B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。