gemma-4-12B

gemma-4-12B

Google 的 Gemma 4 12B Unified 模型，是能读文字、图片、音频和视频并输出文字的开放模型，上下文 256K，不需要单独的编码器。适合运行本地 AI 的开发者。

由 google 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：gemma-4-12B 是 Google DeepMind 的 Gemma 4 开放模型系列里的 12B Unified 模型。它接收文字、图片、音频和视频并输出文字，参数约 119.5 亿。

卡片称它是无编码器的：音频和视觉都在同一个模型内部理解，没有单独的编码器。它的上下文窗口最长可达 256K 词元，支持 140 多种语言。

适合谁：适合想用一个本地模型处理文字、图片和语音的开发者，也适合构建在消费级设备或工作站上运行的助手的团队。

Industry | Who uses it | How they use it | Example
软件 | 应用开发者 | 在本地运行多模态助手 | 就一张照片提问
研究 | AI 研究者 | 研究无编码器的多模态模型 | 与 Gemma 4 的其他尺寸比较
效率工具 | 工具构建者 | 构建能调用函数的智能体 | 让模型调用日历工具

如果你需要模型画图或开口说话，可以跳过它，因为它只输出文字。

用在哪里：

• 带消费级 GPU 的本地环境或工作站，卡片把它们列为目标
• Hugging Face Transformers，库标签里列了它
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

Use case | Who | What they get back
推理和编程 | 开发者 | 文字回答，思考模式可设置
图片和音频提问 | 应用构建者 | 关于图片或录音的文字
智能体 | 工具构建者 | 函数调用，因为模型原生支持调用函数

如何设置：

• 用来运行下载命令的 Python 和 pip
• BF16 权重约需 23.9 GB 空间，按 Hugging Face 的估算 4 位约 6 GB
• 能加载 Transformers 模型的运行环境，照模型卡片操作

1. 安装 Hugging Face 工具。
2. 下载模型文件。
3. 在 Transformers 里加载模型，并照卡片的代码操作。

pip install -U huggingface_hub
hf download google/gemma-4-12B

如何使用：加载模型，给它发文字、图片、音频或混合内容，再读它写出的文字。你可以打开它的思考模式，也可以给它一条系统消息来设定聊天的规则。

Property | 12B Unified
参数 | 11.95B
层数 | 48
滑动窗口 | 1024 词元
上下文长度 | 256K 词元
词表 | 262K
输入 | 文字、图片、音频

Title: 权重大小，单位 GB
BF16 权重: 23.9 GB
4 位估算: 6 GB

示例：你给模型一张白板的照片，请它把笔记整理成清单。它自己读图并用文字回答，不需要单独的视觉工具。

新手与专家：如果你刚接触多模态模型，先用文字和一张图片，再试音频。在摸清思考模式的表现之前，提示先写短一些。

如果你熟悉这个领域，各层在局部滑动窗口注意力和全局注意力之间交替，最后一层总是全局的。全局层共用键和值，并用比例式 RoPE 来节省长上下文的内存。

下载模型文件
在 Transformers 里加载模型
发送文字、图片或音频
得到文字，可选思考

注意事项：

• 这个系列有五种尺寸：E2B、E4B、12B、26B A4B 和 31B
• 卡片说 E2B、E4B 和 12B 原生支持音频
• 模型支持 system 角色，让聊天更有结构
• Hugging Face 列出了别人做的 51 个量化版本和 96 个微调版本
• License: Apache 2.0
• Cost to run: 没有提到
• Data it reaches: 你下载的文件，以及你给它的文字、图片和音频
• Not for: 生成图片或音频，因为输出是文字

Hugging Face 上的数据（2026年11月13日）

• 任务：any to any
• 框架：transformers
• 参数量：12B
• Weights: about 23.9 GB in BF16; about 6 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：51,228
• 点赞：861
• 许可证：apache-2.0
• Quantized versions: 51
• Fine-tunes: 97
• 标签：transformers, safetensors, gemma4_unified, image-text-to-text, any-to-any

链接

• 模型：https://huggingface.co/google/gemma-4-12B
• 文件：https://huggingface.co/google/gemma-4-12B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download google/gemma-4-12B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。