Alpie Seed 9B GGUF

Alpie Seed 9B GGUF

通过三种位深的 GGUF 文件，在你自己的机器上运行 169Pi AI 的图文模型 Alpie Seed 9B。适合想在本地做视觉语言对话的开发者。

由 169Pi 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这是 Alpie Seed 9B 的 GGUF 量化版本，Alpie Seed 9B 是 169Pi AI 推出的开放权重视觉语言模型。这些文件用于在台式机、工作站和部分手机上本地运行。它们提供三种位深，让你在内存和质量之间取舍。

适合谁：想在自己的硬件上离线运行图文模型的开发者和研究人员。

Industry | Who uses it | How they use it | Example
软件 | 开发者 | 在本地运行视觉语言模型 | 就一张图片的内容提问
研究 | 研究人员 | 比较不同量化等级的大小和质量 | 用同样的提示词跑 2 位和 4 位版本
移动端 | 应用爱好者 | 在手机上离线运行模型 | 卡片展示了在 PocketPal 里的手机演示

如果你想要全精度模型，可以跳过这些量化版本。

用在哪里：

• 台式机或工作站上的 llama.cpp
• Ollama，有现成的标签
• 手机上的 PocketPal
• Kaggle Models，模型也在那里上架

Use case | Who | What they get back
图像理解 | 开发者 | 用 vision 标签得到关于图片的文字回答
推理和编程 | 学生和开发者 | 数学题、代码和调试方面的帮助
离线聊天 | 有合适设备的人 | 不需要网络的本地助手

如何设置：

• 带 pip 的 Python，或已安装的 Ollama
• 够用的内存，Ollama 标签从约 3.8 GB 到 6.6 GB 不等
• 能读取 GGUF 的运行环境，比如 llama.cpp

1. 安装 Hugging Face hub 包并下载 GGUF 文件，也可以跳过这一步，直接用 Ollama。
2. 选一个适合你内存的量化版本。
3. 用 llama.cpp 或 Ollama 运行。

pip install -U huggingface_hub
hf download 169Pi/Alpie_Seed_GGUF

如何使用：用 Ollama 的话，运行默认标签，或在模型名后面加标签，选择更小的版本或视觉版本。

ollama run 169pi/alpie-seed

ollama run 169pi/alpie-seed:q2
ollama run 169pi/alpie-seed:vision

Tool | What it does
alpie-seed:latest | 默认版本，约 5.6 GB，文本输入
alpie-seed:q2 | 最小的版本，约 3.8 GB，文本输入
alpie-seed:q3 | 中等大小的版本，约 4.6 GB，文本输入
alpie-seed:vision | 约 6.6 GB，接受文本和图像

示例：你启动 vision 标签，发一张照片并问里面有什么。模型用文字回答。

新手与专家：如果你是新手，先用默认的 Ollama 标签，问一个简单的问题。想发图片时再换到 vision 标签。

Q2 占用内存最少，Q3 居中，Q4 保留最多细节，所以 Q4 适合台式机和工作站。基础模型原生有 262K 上下文窗口，Ollama 版本标的是 256K。实际大小取决于 GGUF 变体、上下文长度和运行环境。

选一个量化等级
获取 GGUF 文件或 Ollama 标签
在 llama.cpp 或 Ollama 中运行
发送文本，或用 vision 标签发送图像

注意事项：

• 只有 vision 标签接受图像，其他列出的 Ollama 标签接受文本
• Q2 适合内存受限的设备
• License: Apache 2.0
• Cost to run: 没有列出费用，硬件由你自己准备
• Data it reaches: 你发送的提示词和图像，以及你下载的文件
• Not for: 给纯文本标签发送图像

Title: Ollama download size
latest: 5.6 GB
q2: 3.8 GB
q3: 4.6 GB
vision: 6.6 GB

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：gguf
• 参数量：9B
• Weights: about 4.5 GB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：1,346
• 点赞：13
• 许可证：apache-2.0
• 基于：169Pi/Alpie_seed
• 标签：gguf, alpie, 169pi, quantized, local-inference, vision-language, multimodal, reasoning, coding, llama.cpp, 9b, apache-2.0

链接

• 模型：https://huggingface.co/169Pi/Alpie_Seed_GGUF
• 文件：https://huggingface.co/169Pi/Alpie_Seed_GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download 169Pi/Alpie_Seed_GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。