embeddinggemma-2 GGUF

embeddinggemma-2 GGUF

用 llama 命令或 Llama 应用运行 Google embeddinggemma-2 的 GGUF 副本，这是一个 271M 的特征提取模型。适合想在本地使用小型文本嵌入模型的开发者。

由 ggml-org 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这是 ggml-org 制作的 google/embeddinggemma-2 的 GGUF 副本，一个 271M 的特征提取模型。从名字看它是文本嵌入模型。它由工具自动转换，所以可以在 llama 工具里运行。

适合谁：它适合想在自己机器上用小型嵌入模型来做搜索或相似度功能的开发者。模型卡对它几乎没有别的说明。

Title: 谁在用
Industry | Who uses it | How they use it | Example
软件 | 开发者 | 用 llama 命令在本地运行嵌入模型 | 需要文本向量的本地搜索功能
研究 | 检索研究者 | 试用小型 GGUF 嵌入模型 | 和其他本地嵌入模型比较
IT | 把数据留在内部的团队 | 在自己的硬件上托管嵌入 | 内部文档搜索

如果你需要会写文字的聊天模型，可以跳过它。

用在哪里：

• Llama 应用
• Windows、macOS 或 Linux 终端里的 llama 命令
• 同样机器上的 Python，用于手动下载文件

Title: 它能做的事
Use case | Who | What they get back
本地嵌入 | 开发者 | 一个在你机器上提供服务的模型
检索实验 | 研究者 | 一个用来试验搜索想法的小模型

如何设置：

• Llama 应用或 llama 命令
• Python，只有在手动下载文件时才需要

1. 安装 Llama 应用或 llama 命令。
2. 运行下面的 serve 命令。它会按 Hugging Face 上的名字取回模型。
3. 如果愿意，也可以用 Hugging Face 工具手动下载文件。

llama serve -hf ggml-org/embeddinggemma-2-GGUF

pip install -U huggingface_hub
hf download ggml-org/embeddinggemma-2-GGUF

如何使用：
在终端里运行 serve 命令，或者在 Llama 应用里打开这个模型。模型卡没有展示更多内容，所以如何给运行中的服务发送文本，请查看 llama 工具。

llama serve -hf ggml-org/embeddinggemma-2-GGUF

示例：
你在终端里运行 serve 命令。工具从 Hugging Face 取回模型，并在你的机器上启动它。模型卡没有给出示例请求或输出，所以返回什么取决于你如何调用这个服务。

新手与专家：
如果你是新手，嵌入就是代表一段文本含义的一串数字。第一件小事是运行上面的 serve 命令。

如果你懂这个领域，这是 embeddinggemma-2 的原始权重转成 GGUF 后的版本，271M 参数，按 Hugging Face 的估计 4 位量化时约 136 MB。模型卡没有给出维度数或基准，请到源模型那里看。

用模型名运行 llama serve
文件来自 Hugging Face
模型在你的机器上启动
发送文本并读取向量

注意事项：

• 转换：这个副本是 ggml-org 的自动工具从源模型转出来的。
• 来源：基础模型是 google/embeddinggemma-2。
• 细节：模型卡没有分数、向量大小或使用说明。
• License：apache-2.0。
• Cost to run：没有提到 API 密钥、账号或付费服务。
• Data it reaches：你从 Hugging Face 下载模型，模型卡没有提到别的访问。

Hugging Face 上的数据（2026年11月13日）

• 任务：feature extraction
• 参数量：271M
• Weights: about 136 MB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：125,632
• 点赞：60
• 许可证：apache-2.0
• 基于：google/embeddinggemma-2
• Fine-tunes: 1
• 标签：gguf, quantized, embedding, feature-extraction

链接

• 模型：https://huggingface.co/ggml-org/embeddinggemma-2-GGUF
• 文件：https://huggingface.co/ggml-org/embeddinggemma-2-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download ggml-org/embeddinggemma-2-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。