Granite-4.2-30B

Granite-4.2-30B

先分步骤思考再作答，适合数学、代码、工具调用和多语言对话。这是 IBM 最大的稠密 Granite 4.2 模型，采用 Apache 2.0 许可，适合在自己硬件上运行开源模型的团队。

由 ibm-granite 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Granite-4.2-30B 是 IBM 在 Granite 4.2 系列里最大的推理模型，是一个约 30B 参数的稠密文本模型。它在给出最终答案之前，会先写出推理步骤。这对数学、代码和需要调用工具的多步骤任务有帮助。

适合谁：它适合想要开源推理模型的开发者和团队，用途包括代码、工具调用、智能体工作流和多语言对话。许可允许商用。

Title: 谁在用
Industry | Who uses it | How they use it | Example
软件 | 应用开发者 | 用推理过程生成和审查代码 | 内部工具里的编程助手
企业 IT | 平台团队 | 在自己的硬件上托管开源模型 | 给员工用的私有聊天服务
AI 工程 | 智能体开发者 | 让模型决定调用哪个工具以及为什么 | 在几个函数里做选择的工作流
研究 | 模型研究者 | 在同一个模型里比较不同思考模式 | 完整思考对比低强度

如果你只有笔记本或小 GPU，可以跳过它。即使按 4 位估算也要约 14.6 GB。

用在哪里：

• transformers 库，这是该模型列出的库
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件
• 你自己的服务器或工作站，内存要放得下权重
• 智能体和工具调用的场景，模型卡把它列为目标用途

Title: 它能做的事
Use case | Who | What they get back
难度较高的推理问题 | 开发者 | 模型逐步推理之后给出的答案
代码生成 | 软件团队 | 经过一轮推理后写出的代码
工具调用 | 智能体开发者 | 带有理由的函数调用选择
多语言对话 | 客服团队 | 用模型卡测试过的语言给出回复

如何设置：

• Windows、macOS 或 Linux 上的 Python
• 能放下约 58.6 GB BF16 权重的内存，或按 4 位估算约 14.6 GB
• 下面的 Hugging Face 工具，用来获取文件

1. 安装 Hugging Face Hub 工具。
2. 下载模型文件。
3. 按模型卡的说明用 transformers 库加载模型。

pip install -U huggingface_hub
hf download ibm-granite/granite-4.2-30b

如何使用：
每次请求你都可以选择模型思考多少。完整思考是默认模式，你可以切换到不思考或低强度模式。这是在深度和速度之间取舍。可见的模型卡文本没有给出运行命令。

Title: 思考模式
Tool | What it does
Full thinking | 默认模式，回答前长时间推理
Non-thinking | 跳过推理环节，回复更快
Low effort | 简短推理以节省时间

hf download ibm-granite/granite-4.2-30b

示例：
你用完整思考模式问一道多步骤的数学应用题。模型先写出推理过程，再给出最终答案。用低强度模式时，同样的问题只做更短的推理。模型卡没有给出示例回复。

新手与专家：
如果你是新手，这是一个大型文本 AI，回答前会先一步步想清楚问题。第一件小事是读一下模型摘要，并确认你的电脑放得下这些文件。

如果你懂这个领域，它是基于 Granite-4.1-30B-Base 的纯解码器稠密 Transformer。注意力是分组查询，有 32 个头和 8 个键值头，用旋转位置编码和 SwiGLU 前馈层。代价是时间：每一轮推理都要花速度，这几种模式让你自己控制。

用一种思考模式发送请求
模型逐步推理
它可以选工具并说明原因
最终答案返回

注意事项：

Title: 权重大小，单位 GB
BF16: 58.6 GB
4-bit (estimate): 14.6 GB

• 上下文：原生支持 128K 词元，针对长输入的扩展可达 512K。
• 语言：测试过英语、中文、日语、韩语、阿拉伯语和几种欧洲语言。其他语言可能可用，但没有充分测试。
• 衍生版本：其他人已发布 42 个量化版本和 14 个微调版本。
• License：apache-2.0。
• Cost to run：没有提到 API 密钥、账号或付费服务，但你需要大 GPU 或大量内存。
• Data it reaches：你从 Hugging Face 下载文件，模型只能接触你自己的程序交给它的内容。
• Not for：放不下权重的小型机器。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：29.3B
• Weights: about 58.6 GB in BF16; about 14.6 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：36,287
• 点赞：143
• 许可证：apache-2.0
• 语言：en, de, es, fr, ja, pt, ar, cs
• 基于：ibm-granite/granite-4.1-30b-base
• Quantized versions: 43
• Fine-tunes: 14
• 标签：transformers, safetensors, granite, text-generation, granite-4.2, reasoning, thinking, tool-calling, conversational

链接

• 模型：https://huggingface.co/ibm-granite/granite-4.2-30b
• 文件：https://huggingface.co/ibm-granite/granite-4.2-30b/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download ibm-granite/granite-4.2-30b

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。