gemma-3-27b-it-GGUF

gemma-3-27b-it-GGUF

用 Google 的 Gemma 3 27B 指令微调模型回答关于文本和图像的问题，提供 Unsloth 制作的 GGUF 文件，可在你自己的电脑上运行。支持 128K 词元上下文。

由 unsloth 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这个仓库存放 gemma-3-27b-it 的 GGUF 版本，它是 Google DeepMind 的 Gemma 3 系列里 27B 的指令微调模型。Unsloth 制作了量化文件。Gemma 3 接收文本和图像作为输入，输出文本。

适合谁：想在自己的电脑或云环境里用一个能力不错、支持图像输入的开放模型的人。4-bit 权重估计约 13.5 GB，所以机器要放得下。

Industry | Who uses it | How they use it | Example
软件 | 开发者 | 给应用加上能读文字和图片的本地模型 | 描述一张截图的内容
研究 | AI 研究人员 | 测试量化形式的 27B 开放模型 | 比较两种文件大小的回答
教育 | 学生 | 在自己的机器上练习问答和总结 | 总结一篇长文章
运营 | 有自己硬件的团队 | 把文档留在自己的系统里 | 就一份长的内部文本提问

需要权重采用普通宽松许可证的人可以跳过它，因为使用要遵守 Google 的 Gemma 条款。

用在哪里：

• Windows、macOS 或 Linux 上的 Python，用于下载文件
• 能加载 GGUF 文件的工具，比如 llama.cpp 或 Ollama，卡片把它们列为导出目标
• 你自己的云环境，卡片提到它是部署 Gemma 3 的地方

Use case | Who | What they get back
问答 | 任何人 | 对关于一段文本的问题的书面回答
总结 | 学生和团队 | 一份长文档的精简版
图像理解 | 开发者 | 对图像内容的书面分析
推理 | 研究人员 | 对问题的分步回答

如何设置：

• Python，用于 Hugging Face hub 工具
• 一个能加载 GGUF 文件的运行器
• 你选的文件所需的磁盘空间，4-bit 权重估计约 13.5 GB

1. 用 pip 安装 Hugging Face hub 工具。
2. 用 hf 命令下载文件。
3. 在你的运行器里加载一个 GGUF 文件。卡片指向 Unsloth 关于正确运行 Gemma 3 的指南。

pip install -U huggingface_hub
hf download unsloth/gemma-3-27b-it-GGUF

如何使用：给模型发送文本，或者文本加图像，然后读它写回的文字。这里展示的卡片部分没有给出运行命令，所以请按你选的运行器和卡片链接的指南操作。下面的细节来自 Gemma 3 的模型卡。

Input | How it is handled
文本 | 问题、指令，或者想要缩短的文档
图像 | 调整为 896 x 896，每张编码成 256 个词元
上下文 | 27B 规模一次最多读取 128K 词元
输出 | 生成的文本，比如回答、图像分析或总结

示例：你给模型一张照片，问它显示了什么。它用文字回答，描述图像内容，前提是你的运行器支持图像输入。

新手与专家：先用纯文本问题检查文件能不能加载。可以之后，再试一张图片和一个关于它的简短问题。较小的笔记本电脑可能需要比这个更小的文件。

Gemma 3 用与 Gemini 模型相同的研究和技术构建。它覆盖 140 多种语言，有 128K 的上下文窗口。27B 处在 Gemma 3 规模范围的顶端，这个范围还包括 1B、4B 和 12B。

输入文本或一张图像
图像变成每张 256 个词元
模型读取完整的上下文
它用文本写出答案

注意事项：

• Context: 27B 规模最多 128K 词元。
• Images: 每张图像调整为 896 x 896，占 256 个词元。
• Languages: 卡片说支持超过 140 种语言。记录里列出的是英语。
• License: Gemma 许可证，也就是适用 Google 的 Gemma 使用条款。
• Cost to run: 未提及。来源里没有出现 API 密钥或付费服务。
• Data it reaches: 你电脑上的文件，以及来自 Hugging Face 的模型下载。
• Not for: 在这里展示的部分，来源没有给出禁止的用途。使用规则由 Gemma 使用条款规定。

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：27B
• Weights: about 13.5 GB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：50,284
• 点赞：211
• 许可证：gemma
• 语言：en
• 基于：google/gemma-3-27b-it
• 标签：transformers, gguf, gemma3, image-text-to-text, unsloth, gemma, google, imatrix, conversational

链接

• 模型：https://huggingface.co/unsloth/gemma-3-27b-it-GGUF
• 文件：https://huggingface.co/unsloth/gemma-3-27b-it-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download unsloth/gemma-3-27b-it-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。