Forge-1-Gemma-4-E2B

Forge-1-Gemma-4-E2B

一个从 Google 的 gemma-4-E2B 微调而来的小型文本模型，偏向写代码，以 GGUF 文件发布，可在 Ollama、LM Studio、Unsloth 或 Jan 中在自己的笔记本上运行。

由 YoSaNoo 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Forge-1-Gemma-4-E2B 是 YoSaNoo 发布的小型文本生成模型，从 Google 的 gemma-4-E2B 微调而来，以 GGUF 文件分享。作者把它定位为能在日常笔记本硬件上运行的编程助手。作者还说，这个模型被训练成知道自己的名字。

适合谁：如果你想要一个小型本地模型来辅助写代码，又不想依赖云端账号，它就适合你。

行业 | 谁在用 | 怎么用 | 例子
软件开发 | 独立开发者 | 在自己的机器上把模型当作编程助手运行 | 让它起草或解释一个简短的函数
教育 | 学习编程的学生 | 使用无需注册的本地模型 | 问它一条报错信息是什么意思
本地 AI 爱好 | 喜欢尝试小模型的人 | 在桌面应用中加载量化文件并和其他模型对比 | 在 LM Studio 或 Jan 里用 Q4_K_M 文件聊天

如果你需要公开的基准测试结果（模型卡没有给出），或者需要大模型的深度，可以跳过它。

用在哪里：

• Ollama，使用下面的一行运行命令
• LM Studio、Unsloth 和 Jan，在应用内搜索模型名称
• 装有 Python 的 Windows、macOS 和 Linux，用 Hugging Face 的客户端获取文件

用例 | 谁 | 得到什么
编程辅助 | 开发者 | 来自本地小模型的代码草稿和解释
离线聊天 | 有笔记本的任何人 | 在你自己的机器上生成的回复
尝试量化模型 | 本地 AI 爱好者 | 可与其他模型对比的 4 位或 8 位文件

如何设置：
你需要先准备：

• 一台有足够空间的笔记本或台式机，4 位文件约 2.3 GB，这是估算值
• 一个运行器：Ollama、LM Studio、Unsloth 或 Jan
• Python，仅在你想用 Hugging Face 的客户端下载文件时需要

1. 选择并安装你的运行器。
2. 在 Ollama 中运行下面的命令，它会启动 Q4_K_M 量化版本。
3. 在 LM Studio、Unsloth 或 Jan 这类应用里按名称查找模型，下载 4 位或 8 位文件中的一个。
4. 或者用第二个代码块里的两条命令获取仓库文件。

ollama run hf.co/YoSaNoo/Forge-1-E2B:Q4_K_M

pip install -U huggingface_hub
hf download YoSaNoo/Forge-1-Gemma-4-E2B

如何使用：在运行器里开始聊天，输入你的编程问题。运行命令之后，Ollama 会立刻打开提示符。各个应用在文件加载完成后会打开聊天窗口。

工具 | 作用
ollama run | 在 Ollama 中用 Q4_K_M 量化版本开始聊天
Q4_K_M | 4 位量化文件，两者中较小的一个
Q8_0 | 8 位量化文件，文件更大，压缩更少
hf download | 把仓库文件下载到你的电脑

示例：你让它写一个反转字符串的小函数，并简单解释原理。模型会给出代码和几行说明。模型卡没有给出结果，所以用之前请先检查代码。

新手与专家：这是一个在你自己电脑上运行的小型 AI 模型，就像运行普通应用一样。第一步可以先安装 Ollama，运行上面的一行命令，再问一个编程问题。

对熟悉这个领域的读者来说，它是 gemma-4-E2B 的微调版本，以 GGUF 量化格式保存，桌面运行器可以直接加载。Hugging Face 统计为 4.6B 参数，而模型卡写的是约 5B。作者说它胜过原版 Gemma 模型，但模型卡没有给出基准测试数字。量化越小，所需内存越少，精度也会有所下降。

选一个运行器，例如 Ollama
选择 Q4_K_M 或 Q8_0 文件
在你自己的机器上加载
输入一个编程问题
阅读回复

注意事项：

• 大小：4 位文件约 2.3 GB，这是 Hugging Face 给出的估算值。
• 名称：模型卡里的命令写的是 Forge-1-E2B，而 Hugging Face 页面名为 Forge-1-Gemma-4-E2B。
• 后续版本：模型卡把 Forge 1.1 和 Forge 2 列为下一批发布。
• License: Apache 2.0。
• Cost to run: 未提及。它在你自己的硬件上运行。
• Data it reaches: 你从 Hugging Face 下载的文件，来源没有提到其他内容。
• Not for: 未提及，不过模型卡没有给出可供评判的基准测试结果。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 参数量：4.6B
• Weights: about 2.3 GB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：6,102
• 点赞：27
• 许可证：apache-2.0
• 基于：google/gemma-4-E2B
• 标签：gguf, conversational, code, agent, cybersecurity, logical-reasoning, text-generation

链接

• 模型：https://huggingface.co/YoSaNoo/Forge-1-Gemma-4-E2B
• 文件：https://huggingface.co/YoSaNoo/Forge-1-Gemma-4-E2B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download YoSaNoo/Forge-1-Gemma-4-E2B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。