gemma-4-12B-it

gemma-4-12B-it

接收文字、图片和音频并输出文字回答，是 Google DeepMind 的 12B 指令微调模型，上下文 256K 词元，思考模式可配置。适合在本地运行开放模型的开发者。

由 google 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：gemma-4-12B-it 是 Google DeepMind 的 Gemma 4 开放系列中经过指令微调的 12B Unified 模型。它原生理解音频和图片，不需要单独的编码器，输出文字。上下文窗口最长 256K 词元，整个系列支持 140 多种语言。

适合谁：它适合想在消费级 GPU 或工作站上使用能力较强的开放模型，做推理、编码和多模态工作的开发者。

行业 | 谁在用 | 怎么用 | 例子
软件开发 | 开发者 | 用它获得编码帮助，并配合函数调用做智能体工作流 | 让它修复一个失败的测试
无障碍和媒体 | 应用开发者 | 在一个模型里处理语音音频和图片 | 描述一张照片并回答关于它的问题
研究 | 研究者 | 对一个长上下文的开放模型做微调或评估 | 测试长文档问答
多语言产品 | 产品团队 | 用一个本地模型服务多种语言的用户 | 用另一种语言回答一个客服问题

如果你需要手机级别的模型，可以跳过它，因为这个系列有更小的 E2B 和 E4B 规格。

用在哪里：

• 使用 transformers 库的 Python
• 消费级 GPU 和工作站，模型卡把它们列为这个规格的目标
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

用例 | 谁用 | 得到什么
推理和编码 | 开发者 | 文字回答，思考模式可配置
音频和图片提问 | 应用开发者 | 关于模型听到或看到的内容的文字回答
智能体工作流 | 智能体开发者 | 原生函数调用和 system 角色指令

如何设置：你需要 Python 和一台能放下权重的机器，BF16 下约 23.9 GB，4-bit 估计约 6 GB。

• Windows、macOS 或 Linux 上的 Python
• huggingface_hub 包
• 用来运行模型的 transformers 库
• 内存足够的消费级 GPU 或工作站

1. 安装 huggingface_hub。
2. 把模型文件下载到你的电脑。
3. 用 transformers 加载模型，并按模型页面上的运行步骤操作。

pip install -U huggingface_hub
hf download google/gemma-4-12B-it

如何使用：可见的模型卡给出了下载这一步，并指向它自己的运行部分。你加载指令微调的检查点，写一条 system 消息来设定行为，再发送文字、图片或音频。

hf download google/gemma-4-12B-it

示例：你给模型发一张照片，问里面有什么。回复以文字返回，如果你想让它先推理再回答，也可以选一个思考模式。

新手与专家：如果你刚接触开放模型，这是一个中等规模的模型，除了文字，还能处理图片和声音。第一次可以先下载它，再用纯文字问一个简短的问题。

对熟悉这个领域的人来说，这个模型有 48 层，采用混合注意力设计，把 1024 词元的局部滑动窗口与全局层交替使用，并以全局层收尾。无编码器是在体积和部署上的取舍，因为音频和视觉都由模型自身处理。

文字、图片或音频输入
统一模型一起处理所有输入
开启思考模式时，它可能先思考
你得到文字回答

注意事项：Gemma 4 系列有五个模型，从手机级的 E2B 和 E4B 到 31B，这个 12B 是其中三个原生能听音频的模型之一。

• License: Apache 2.0
• Cost to run: 未提及
• Data it reaches: 你发送的文字、图片和音频，以及下载的模型文件
• Not for: 音频生成，因为模型输出的是文字

Hugging Face 上的数据（2026年11月13日）

• 任务：any to any
• 框架：transformers
• 参数量：12B
• Weights: about 23.9 GB in BF16; about 6 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：1,738,905
• 点赞：1,735
• 许可证：apache-2.0
• 基于：google/gemma-4-12B
• Quantized versions: 403
• Fine-tunes: 306
• 标签：transformers, safetensors, gemma4_unified, image-text-to-text, any-to-any

链接

• 模型：https://huggingface.co/google/gemma-4-12B-it
• 文件：https://huggingface.co/google/gemma-4-12B-it/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download google/gemma-4-12B-it

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。