Gemma 4 E4B IT (LiteRT-LM)

Gemma 4 E4B IT (LiteRT-LM)

在手机、桌面、IoT 开发板和网页上运行小型 Gemma 4 模型，不需要联网。这是 3.66 GB 的 LiteRT-LM 版本，适合想要私密的设备端生成的开发者。

由 litert-community 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：以 LiteRT-LM 格式打包的 Gemma 4 E4B Instruct，所以它可以在 Android、iOS、桌面、IoT 设备和网页上运行。它是一个面向设备端使用的小型 Gemma 4 模型。在本地运行意味着人们可以私密地使用生成式 AI，不需要联网。

适合谁：想把紧凑模型放进自己应用的移动端和嵌入式开发者，以及需要文本、图像或音频功能离线可用的团队。Google 的 AI Edge Gallery 应用就运行在同一套技术栈上。

Industry | Who uses it | How they use it | Example
移动应用 | Android 和 iOS 开发者 | 在应用里内置离线助手 | 没有信号也能用的聊天助手
嵌入式和 IoT | 设备制造商 | 在小型硬件上运行语言模型 | 能回答语音问题的智能设备
注重隐私的产品 | 产品团队 | 让用户文本留在设备上 | 在本地做总结的笔记应用
研究 | 边缘 AI 研究人员 | 测量小型设备上的内存和速度 | 比较不同平台的内存占用

如果你想要当前能得到的最大模型质量，可以跳过它，因为它是为了小到能装进设备而做的。

用在哪里：

• Android 和 iOS 应用，包括 Google 的 AI Edge Gallery
• 桌面电脑和 IoT 设备
• 通过 LiteRT-LM 在网页上使用

Use case | Who | What they get back
离线助手 | 应用开发者 | 在设备上生成的文本回复
图像和音频功能 | 产品团队 | 用到图片或音频片段的回答
低内存部署 | 设备制造商 | 只在需要时才加载部分组件的模型

如何设置：

• Python，用来安装 Hugging Face 客户端
• 你的应用或设备上的 LiteRT-LM 运行时
• 约 3.66 GB 的模型文件空间

1. 安装 Hugging Face 客户端。
2. 把模型文件下载到你的电脑。
3. 在你的应用里用 LiteRT-LM 加载模型文件。

pip install -U huggingface_hub
hf download litert-community/gemma-4-E4B-it-litert-lm

如何使用：通过 LiteRT-LM 加载模型文件，然后发送提示词、读取回复，全部在设备上完成。来源没有给出代码，所以调用方法请参照 LiteRT-LM 指南。视觉和音频部分只有在请求需要时才会加载。

Tool | What it does
LiteRT-LM | 运行模型文件，并提供 KV 缓存管理、提示词模板和函数调用
LiteRT | 提供硬件加速，CPU 上用 XNNPack，GPU 上用 ML Drift
AI Edge Gallery | 构建在同一套技术栈上的展示应用

示例：你在做一个旅行笔记应用，请手机上的模型整理你口述的几行内容。它在没有网络的情况下完成，文字不会离开手机。

新手与专家：如果你是新手，先试试 Google 的 AI Edge Gallery 应用，看看这类模型在手机上怎么运行。然后按 LiteRT-LM 指南把它接入你自己的应用。

如果你熟悉这个领域：在 3.66 GB 里，2.24 GB 是文本解码器，0.67 GB 是嵌入表。运行时把主权重放在内存里，把嵌入做内存映射，这在某些平台上能节省工作内存。

你的提示词
LiteRT-LM
CPU 上的 XNNPack 或 GPU 上的 ML Drift
在设备上回复

注意事项：整个文件是 3.66 GB。视觉和音频模型只在需要时才加载，进一步降低了内存占用。

Title: 模型文件的构成，单位 GB
Whole file: 3.66 GB
Text decoder weights: 2.24 GB
Embedding parameters: 0.67 GB

• Platforms: Android、iOS、桌面、IoT 和网页
• License: Apache 2.0
• Cost to run: 未提及
• Data it reaches: 下载到你电脑上的模型文件，未提及其他
• Not for: 来源没有列出，不过它是为设备端使用而做的小型模型

Hugging Face 上的数据（2026年11月13日）

• 框架：litert-lm
• 最近 30 天下载：467,257
• 点赞：250
• 许可证：apache-2.0
• 基于：google/gemma-4-E4B-it
• Fine-tunes: 4
• 标签：litert-lm

链接

• 模型：https://huggingface.co/litert-community/gemma-4-E4B-it-litert-lm
• 文件：https://huggingface.co/litert-community/gemma-4-E4B-it-litert-lm/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download litert-community/gemma-4-E4B-it-litert-lm

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。