bge-small-en-v1.5-GGUF

bge-small-en-v1.5-GGUF

把英文文本变成嵌入向量，用于搜索和检索，是一个 33.2M 参数的小型 GGUF 文件。适合在普通硬件上构建搜索或检索应用的开发者。

由 unsloth 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：bge-small-en-v1.5-GGUF 是小型英文 BGE 嵌入模型的 GGUF 副本，由 unsloth 分享，有 33.2M 参数。BGE 是 BAAI General Embedding 的缩写。嵌入模型把文本变成数字，这样就可以通过比较来找到相似的段落。模型卡的文字来自 FlagEmbedding 项目。

适合谁：为英文文本构建搜索或检索功能的开发者最适合它，小文件也适合普通硬件。NLP 研究人员可以把它当作紧凑的嵌入基线。

行业 | 使用者 | 使用方式 | 例子
搜索 | 软件开发者 | 把英文文本变成向量，用于相似度搜索 | 找出与一个问题相关的笔记
AI 应用 | 应用构建者 | 检索段落，作为上下文交给语言模型 | 为聊天机器人的回答取回最合适的段落
研究 | NLP 研究人员 | 比较小型嵌入模型 | 把它当作紧凑的基线

如果你的文本不是英文，或者需要更长的输入或其他检索方法，可以跳过它，因为模型卡把这些情况指向 bge-m3。

用在哪里：在 Python 里使用它，或者用能读取 GGUF 文件的工具。

• 使用 sentence-transformers 库的 Python 脚本
• Windows、macOS 或 Linux，用 Python 下载
• Langchain，模型卡说 BGE 模型已集成在其中

用例 | 谁用 | 得到什么
语义搜索 | 开发者 | 每段文本一个嵌入，用来比较相似度
为大模型检索 | 应用构建者 | 与查询最接近的段落
重排序流程 | 搜索工程师 | 一个可以交给重排序模型进一步精修的第一阶段检索器

如何设置：你需要 Python 和很少的磁盘空间。

• 带 pip 的 Python
• 放文件的空间，4-bit 约 17 MB，为估算

1. 安装 Hugging Face hub 包。
2. 下载模型文件。
3. 阅读模型卡的 Usage 部分，了解确切的调用方式。

pip install -U huggingface_hub
hf download unsloth/bge-small-en-v1.5-GGUF

如何使用：你给模型一段英文文本，取回它的嵌入。要找相关的段落，就为查询和段落各生成嵌入，再比较嵌入的相似度。这里看到的模型卡文字除了下载之外没有给出运行命令。

Tool | What it does
bge-m3 | 模型卡为更多语言、更长文本和其他检索方法推荐的模型
bge-reranker-base | 对嵌入模型返回的靠前文档重新排序的交叉编码器
bge-reranker-large | 用于同样重排序工作的较大交叉编码器

示例：你为一个关于重置密码的问题和几段帮助中心的文字生成嵌入，然后比较它们。嵌入与问题嵌入最接近的那一段就是最佳匹配。

新手与专家：嵌入模型把一句话变成一串数字，让意思相近的句子得到相近的数字。第一次可以先下载文件，再比较两句意思几乎一样的短句。

这是 BGE 系列的 v1.5 小型模型，模型卡说它缓解了相似度分布的问题，并且在不加指令时检索更好。它有 33.2M 参数，由 unsloth 打包成 GGUF。代价是适用范围，因为它只支持英文，而且模型卡把更长的输入交给 bge-m3。

英文文本输入
模型生成嵌入
按相似度比较嵌入
重排序模型可以精修靠前的结果

注意事项：这个模型很小，只支持英文。

• Language: 英文
• Format: GGUF，4-bit 权重约 17 MB，为估算
• Scope: 需要更多语言、更长文本或其他检索方法时，模型卡指向 bge-m3
• License: MIT
• Cost to run: 未提到费用
• Data it reaches: 你要嵌入的英文文本。模型卡没有提到账号或网络服务
• Not for: 其他语言、更长的输入或其他检索方法，依模型卡所述

Hugging Face 上的数据（2026年11月13日）

• 任务：feature extraction
• 框架：sentence-transformers
• 参数量：33.2M
• Weights: about 17 MB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：165,239
• 点赞：10
• 许可证：mit
• 语言：en
• 标签：sentence-transformers, gguf, feature-extraction, sentence-similarity, transformers, mteb, model-index

链接

• 模型：https://huggingface.co/unsloth/bge-small-en-v1.5-GGUF
• 文件：https://huggingface.co/unsloth/bge-small-en-v1.5-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download unsloth/bge-small-en-v1.5-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。