gemma-4-31B-it

gemma-4-31B-it

Google DeepMind 推出的 31B 指令微调模型，能读文字和图片并输出文字，上下文 256K，可配置思考模式，适合在工作站或服务器上运行开放模型的开发者。

由 google 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：gemma-4-31B-it 是 Gemma 4 的 31B 稠密指令微调模型，Gemma 4 是 Google DeepMind 的开放模型系列。它接收文字和图片，输出文字。上下文窗口是 256K token，支持 140 多种语言。权重在 Apache 2.0 下开放。

适合谁：它适合想要一个用于聊天、编程、推理和智能体的开放模型，并托管在自己 GPU 或服务器上的开发者、研究人员和团队。

Industry | Who uses it | How they use it | Example
软件 | 开发者 | 给应用加入多模态助手 | 一个回答截图相关问题的助手
全球业务 | 支持和内容团队 | 用一个模型处理多种语言 | 用客户自己的语言回复客户
智能体开发 | 智能体开发者 | 用函数调用驱动工具 | 一个通过 API 查询订单的智能体
人工智能研究 | 研究人员 | 研究开放的推理模型 | 在同样的问题上对比不同思考模式

如果你需要音频输入或适合手机的模型，可以跳过它，因为音频只在较小的尺寸里有，31B 没有。

用在哪里：

• 使用 transformers 库的 Python
• 消费级 GPU、工作站和服务器，这是模型卡给较大尺寸列出的范围
• Windows、macOS 或 Linux，内存要够 31B 模型用
• 需要原生函数调用的智能体环境

Use case | Who | What they get back
聊天和推理 | 开发者 | 文字回答，思考模式可配置
图片提问 | 产品团队 | 关于任意形状和大小图片的文字回答
工具驱动的智能体 | 智能体开发者 | 模型自己选择发出的函数调用

如何设置：

你需要先准备：

• Python 和 pip
• 能放下约 62.5 GB BF16 权重的 GPU 环境，4-bit 估算约 15.6 GB

1. 安装 Hugging Face hub 工具。
2. 下载模型文件。
3. 按模型卡的说明用 transformers 加载模型。

pip install -U huggingface_hub
hf download google/gemma-4-31B-it

如何使用：通过聊天模板和模型聊天，用 system 角色写指令。想要逐步推理时选一个思考模式，有图片时就把图片和文字一起发送。

Tool | What it does
System role | 原生支持系统消息，让对话更可控
Thinking modes | 在最终答案之前可配置的推理
Function calling | 原生支持调用工具，智能体依赖它
Image input | 接受长宽比和分辨率可变的图片

示例：你发一张收据照片，请它给出总额和店名。模型读取图片，用文字回答。加上系统消息，你还可以固定回答的格式。

新手与专家：这是一个大型通用模型，既懂图片也懂文字。第一步可以先读模型卡，再各试一个文字问题和一个图片问题。

模型把 1024 个 token 宽的局部滑动窗口注意力和完整的全局注意力混合使用，最后一层总是全局的。全局层共享键和值，并使用比例 RoPE。它有 60 层，视觉编码器约 550M 参数。

你发送文字，也可以带一张图片
模型带着系统角色读取它们
它可能先思考再回答
它返回文字或一个函数调用

注意事项：Gemma 4 系列有五种尺寸，这个是最大的稠密模型。

Title: 稠密 Gemma 4 模型的总参数量，单位十亿
E2B (effective): 2.3 B
E4B (effective): 4.5 B
12B Unified: 11.95 B
31B Dense: 30.7 B

• 尺寸: E2B、E4B、12B、26B A4B 和 31B，小模型上下文 128K，中等模型 256K
• 输入类型: 这个 31B 模型接受文字和图片，没有音频
• 其他版本: 列出了其他人做的 358 个量化版本和 369 个微调版本
• License: Apache 2.0
• Cost to run: 未提及，GPU 由你自己提供
• Data it reaches: 你给它的提示词和图片

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：31.3B
• Weights: about 62.5 GB in BF16; about 15.6 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：6,692,367
• 点赞：4,348
• 许可证：apache-2.0
• 基于：google/gemma-4-31B
• Quantized versions: 363
• Fine-tunes: 372
• 标签：transformers, safetensors, gemma4, image-text-to-text, conversational

链接

• 模型：https://huggingface.co/google/gemma-4-31B-it
• 文件：https://huggingface.co/google/gemma-4-31B-it/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download google/gemma-4-31B-it

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。