Integrated Gradients

Integrated Gradients

在 Gradio 页面里用积分梯度方法显示图片的哪些部分推动了模型的预测，附带一张大象照片可以试，适合机器学习学习者和研究人员。

由 keras-io 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的，应用自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Integrated Gradients 是一个 Gradio 应用，围绕同名的模型可解释性方法搭建。从名字看，它显示输入图片的哪些部分把模型推向了它的预测。仓库里有一张示例图片 elephant.jpg，没有列出任何模型。

适合谁：它适合想看解释方法如何作用在图像上的机器学习学习者和研究人员，也适合想看小型 Gradio 示例的开发者。记录没有使用说明，所以页面就是指南。

行业 | 使用者 | 使用方式 | 例子
研究 | 机器学习研究人员 | 检查图像模型依据了什么 | 运行大象照片，查看高亮的区域
教育 | 学生 | 了解归因图显示什么 | 把归因图和原图对照
软件 | Python 开发者 | 阅读 Gradio 里的小型可解释性演示 | 打开 app.py 和 requirements.txt

如果你要解释自己训练的模型，可以跳过它，因为记录里没有列出可以换进去的模型。

用在哪里：

• 网页浏览器，在 Hugging Face 上的 Space 页面里
• 装有 Python 的 Windows、macOS 或 Linux，用下载的副本运行

用例 | 适合谁 | 得到什么
解释图像预测 | 研究人员 | 哪些区域对模型重要的视图
试用示例图片 | 任何人 | 快速了解这个方法的样子
作为基础复用 | 开发者 | 一个用于归因图的小型 Gradio 应用

如何设置：

• 如果用在线 Space，什么都不用装
• 只有运行副本时才需要在电脑上装 Python
• requirements.txt 里列出的依赖包

1. 在浏览器里打开 Space 页面，无需安装就能使用。
2. 想运行副本，先安装 Hugging Face Hub 包，再下载这个 Space。
3. 进入新文件夹，然后安装 Gradio 和清单里的依赖。
4. 用 Python 启动应用。

pip install -U huggingface_hub
hf download keras-io/integrated_gradients --repo-type space --local-dir integrated_gradients
cd integrated_gradients
pip install gradio
pip install -r requirements.txt
python app.py

如何使用：在线使用时，打开 Space，用页面上的控件操作。在自己的电脑上，则在 Space 文件夹里运行主文件，再使用它提供的页面。大象图片是最快的试用办法。

python app.py

示例：你打开 Space，给它大象照片或你自己的一张。应用会返回标出了对预测最重要区域的图片。记录里没有示例输出，所以具体显示方式要看页面。

新手与专家：可解释性就是问模型为什么给出某个答案。对图像模型来说，答案是一张点亮它所依据区域的图。先打开 Space，运行一下大象照片。

如果你熟悉这个领域，积分梯度是沿着从空白基线图到真实图的路径，把模型的梯度累加起来，从而给每个像素一个归因得分。记录没有列出模型或基线，所以这些选择请读 app.py。

你给页面一张图片
应用建立一条从空白图到你的图的路径
路径上的梯度给出像素得分
页面显示归因图

注意事项：

• License: cc0-1，Space 上就是这样标注的
• Cost to run: 未提及
• Data it reaches: 你给它的图片，以及自带的大象示例照片
• Not for: 记录没有列出排除项，而且它没有列出自己的模型

Hugging Face 上的数据（2026年11月13日）

• 点赞：1
• 构建方式：gradio
• 许可证：cc0-1.0

链接

• Space：https://huggingface.co/spaces/keras-io/integrated_gradients
• 文件：https://huggingface.co/spaces/keras-io/integrated_gradients/tree/main

试用

在浏览器里打开这个 Space，或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。