Granite RAG Library

Granite RAG Library

为 IBM Granite 模型提供六个 LoRA 适配器，用于在 RAG 流程中改写查询、请求澄清、判断段落、检查可回答性和标记幻觉。适合构建智能体检索的开发者。

由 ibm-granite 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Granite RAG Library 是一组面向 IBM Granite 语言模型的六个 LoRA 适配器。每个适配器在检索增强生成流程中负责一件事，比如改写问题或对照段落检查答案。它们适用于 granite-4.0-micro 以及 3B、8B 和 30B 的 granite-4.1 模型。其中四个适配器还有 aLoRA 版本。

适合谁：适合构建 RAG 或智能体流程、想在 Granite 模型周围放置小型专用助手而不是写一个大提示词的开发者。

行业 | 谁在用 | 怎么用 | 例子
软件 | RAG 工程师 | 在检索前加入查询改写 | 把后续追问改写成独立的问题
客户支持 | 帮助台助手开发者 | 请用户澄清含糊的问题 | 当一个问题有两种含义时请求补充细节
企业搜索 | 知识库团队 | 判断检索到的段落是否相关 | 丢掉会误导模型的段落
质量保证 | AI 评估团队 | 标记生成答案中没有依据的句子 | 对照来源给每个句子打分

如果你不用 Granite 模型，可以跳过，因为这些适配器是为它们构建的。

用在哪里：

• 围绕 Granite 基础模型构建的 RAG 和智能体流程
• 根据适配器不同，用在检索之前、检索与生成之间，或生成之后
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

用例 | 谁用 | 得到什么
查询改写 | 检索团队 | 用户最新问题的独立版本
澄清 | 聊天设计者 | 问题不清楚时的细节请求
可回答性检查 | 流程构建者 | 段落能否回答问题的判断
幻觉检查 | 评估人员 | 答案每个句子的风险范围

如何设置：先准备好这些。

• 带 pip 的 Python，用来获取文件
• 受支持的 Granite 基础模型之一，每个适配器都依附在它上面
• 能为该基础模型加载 LoRA 适配器的运行环境

1. 用 pip 安装 Hugging Face hub 库。
2. 用 hf 命令下载仓库文件。
3. 为你的任务选择适配器和匹配的基础模型。
4. 按该适配器自己的 README 完成具体步骤。

pip install -U huggingface_hub
hf download ibm-granite/granitelib-rag-r1.0

如何使用：每个适配器接收用户与助手之间的一段对话，大多数还接收一组段落。你按流程所处的阶段选择适配器。这张卡片没有给出运行命令，因为每个适配器都有自己的 README。

hf download ibm-granite/granitelib-rag-r1.0

工具 | 作用
Query Rewrite | 在检索前把用户最后一个问题变成独立的问题
Query Clarification | 发现不清楚的问题并起草澄清请求
Context Relevance | 把段落标为相关、部分相关或不相关，或者标为有误导性
Answerability Determination | 判断这些段落能否回答问题
Hallucination Detection | 给生成答案的每个句子一个风险范围

示例：用户问了一个只有结合上下文才能看懂的追问。Query Rewrite 把它改成完整的问题，让检索器找到更好的段落。模型回答之后，Hallucination Detection 对照这些段落给答案的每个句子打分。

新手与专家：如果你是新手，可以把这些适配器看作放在基于文档回答的聊天机器人周围的小检查员。先从 Query Rewrite 开始，因为它是第一步，最容易看到效果。

如果你熟悉这个领域，这些适配器位于三个位置。Query Rewrite 在检索前。Query Clarification 在检索前或生成前工作。Context Relevance 和 Answerability 在生成前，Hallucination Detection 在生成后。Context Relevance 只为 granite-4.0-micro 发布。

用户问题
Query Rewrite 把它变成独立问题
检索器获取段落
相关性和可回答性检查
模型回答，然后做幻觉检查

注意事项：

• 基础模型：granite-4.0-micro，以及 3B、8B 和 30B 的 granite-4.1
• 变体：其中四个适配器有 aLoRA 版本
• 格式：Safetensors 和 GGUF
• 细节：每个适配器都有自己的 README，里面有具体说明

• License: Apache 2.0
• Cost to run: 未提及，来源没有列出 API 密钥、账号或付费服务
• Data it reaches: 你交给自己流程的对话和段落，来源没有提到网络或账号访问
• Not for: 不带 Granite 基础模型的使用，因为这些适配器是为它们制作的

Hugging Face 上的数据（2026年11月13日）

• 框架：granite-library
• 参数量：14.4M
• Weights: about 7 MB at 4-bit (estimate)
• Formats: Safetensors, GGUF
• 最近 30 天下载：10,360
• 点赞：62
• 许可证：apache-2.0
• 语言：en
• 基于：ibm-granite/granite-4.0-micro
• 标签：granite-library, safetensors, gguf

链接

• 模型：https://huggingface.co/ibm-granite/granitelib-rag-r1.0
• 文件：https://huggingface.co/ibm-granite/granitelib-rag-r1.0/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download ibm-granite/granitelib-rag-r1.0

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。