Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
用一个基于 Qwen3.5-9B 的 9B 开放权重模型处理文字、图片和视频,做推理和编程,并提供适合轻量硬件的 GGUF 版本。适合想要能离线运行的模型的开发者。
Alpie Seed 9B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download 169Pi/Alpie_seed
Alpie Seed 9B 是 169Pi AI 的多模态模型,以 Qwen3.5-9B 为基础。通过监督微调和 GRPO 的后训练,它的推理、指令遵循、编程和视觉理解得到了加强。它接受文字、图片和视频输入,原生上下文为 262K,并提供多种量化格式。
适合想要一个用于推理和编程的 9B 开放权重模型,并且希望通过更小的 GGUF 版本在笔记本或手机上运行的开发者。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 开发者 | 在本地运行 9B 的推理和编程模型 | 请它帮忙处理一个编程任务 |
| 移动端 | 应用开发者 | 在手机上离线运行量化版本 | 没有云连接也能回答问题 |
| 研究 | 研究印度语言的团队 | 测试一个支持印度语言的模型 | 检查印地语或孟加拉语的回答 |
需要通过 Ollama 输入图片的人可以跳过 latest 标签,因为模型卡把它列为文字输入。
| 用途 | 谁用 | 得到什么 |
|---|---|---|
| 本地推理和编程 | 开发者 | 带思考和非思考模式的回答 |
| 离线移动使用 | 应用开发者 | 不需要云连接就能运行的量化模型 |
| 长文档 | 分析师 | 262K 的原生上下文窗口 |
你需要先准备:
pip install -U huggingface_hub hf download 169Pi/Alpie_seed
ollama run 169pi/alpie-seed
运行 Ollama 命令和模型聊天,或者在 Transformers 里加载权重。模型卡文字没有给出 Transformers 代码,所以这条路线请查看它的模型卡。
| 工具 | 作用 |
|---|---|
| ollama run | 从 Ollama 库启动模型 |
| alpie-seed:latest | 默认的 Ollama 标签,5.6 GB,256K 上下文,文字输入 |
| GGUF 版本 | 适合轻量硬件的 2-bit、3-bit 和 4-bit 文件 |
你运行 Ollama 命令并问一个编程问题。模型卡说这个模型支持思考和非思考模式,所以它可以先推理再回答。
9B 模型经过量化后,足够在一台好一点的笔记本或手机上运行。第一步可以先用上面的 Ollama 命令,再问一个简短的问题。
模型沿用 Qwen3.5-9B 架构,经过 SFT 和 GRPO 后训练。模型卡说它的技术报告涵盖奖励设计、量化、在真实设备上的离线结果和安全评估。除了 FP16 权重,仓库还提供三种位深的 GGUF 文件:2-bit、3-bit 和 4-bit。
用一个基于 Qwen3.5-9B 的 9B 开放权重模型处理文字、图片和视频,做推理和编程,并提供适合轻量硬件的 GGUF 版本。适合想要能离线运行的模型的开发者。
由 169Pi 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Alpie Seed 9B 是 169Pi AI 的多模态模型,以 Qwen3.5-9B 为基础。通过监督微调和 GRPO 的后训练,它的推理、指令遵循、编程和视觉理解得到了加强。它接受文字、图片和视频输入,原生上下文为 262K,并提供多种量化格式。
适合谁:适合想要一个用于推理和编程的 9B 开放权重模型,并且希望通过更小的 GGUF 版本在笔记本或手机上运行的开发者。
行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 在本地运行 9B 的推理和编程模型 | 请它帮忙处理一个编程任务
移动端 | 应用开发者 | 在手机上离线运行量化版本 | 没有云连接也能回答问题
研究 | 研究印度语言的团队 | 测试一个支持印度语言的模型 | 检查印地语或孟加拉语的回答
需要通过 Ollama 输入图片的人可以跳过 latest 标签,因为模型卡把它列为文字输入。
用在哪里:
用途 | 谁用 | 得到什么
本地推理和编程 | 开发者 | 带思考和非思考模式的回答
离线移动使用 | 应用开发者 | 不需要云连接就能运行的量化模型
长文档 | 分析师 | 262K 的原生上下文窗口
如何设置:
你需要先准备:
pip install -U huggingface_hub
hf download 169Pi/Alpie_seed
ollama run 169pi/alpie-seed
如何使用:运行 Ollama 命令和模型聊天,或者在 Transformers 里加载权重。模型卡文字没有给出 Transformers 代码,所以这条路线请查看它的模型卡。
工具 | 作用
ollama run | 从 Ollama 库启动模型
alpie-seed:latest | 默认的 Ollama 标签,5.6 GB,256K 上下文,文字输入
GGUF 版本 | 适合轻量硬件的 2-bit、3-bit 和 4-bit 文件
示例:你运行 Ollama 命令并问一个编程问题。模型卡说这个模型支持思考和非思考模式,所以它可以先推理再回答。
新手与专家:9B 模型经过量化后,足够在一台好一点的笔记本或手机上运行。第一步可以先用上面的 Ollama 命令,再问一个简短的问题。
模型沿用 Qwen3.5-9B 架构,经过 SFT 和 GRPO 后训练。模型卡说它的技术报告涵盖奖励设计、量化、在真实设备上的离线结果和安全评估。除了 FP16 权重,仓库还提供三种位深的 GGUF 文件:2-bit、3-bit 和 4-bit。
从 Qwen3.5-9B 架构出发
用 SFT 和 GRPO 做后训练
发布 FP16 权重和 GGUF 版本
在 Transformers、Ollama 或离线环境里运行
注意事项:
Title: Size in GB
BF16: 18.8 GB
Ollama latest tag: 5.6 GB
4-bit estimate: 4.7 GB
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download 169Pi/Alpie_seed
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Alpie Seed 9B 本页 | 741 | 26 | 9.4B | apache-2.0 | |
| Alpie Seed 9B GGUF共有 169pi · alpie · vision-language | 1,346 | 13 | 9B | apache-2.0 | |
| MiMo-V2.6-Flash-RL共有 video-understanding · vision-language · multimodal | 64,057 | 594 | 311B | mit | |
| MiMo-V2.6-Pro-RL共有 video-understanding · vision-language · multimodal | 24,207 | 818 | 1T | mit | |
| MiMo-V2.6-Pro-MOPD共有 video-understanding · vision-language · multimodal | 20,162 | 49 | 1T | mit | |
| Qwen3.8-27B-Fable-5-Coding-Distilled共有 coding · reasoning · qwen3_5 | 471 | 11 | 27.8B | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。