mine-embed-v1

mine-embed-v1

用一个从零训练的 57.8M 小型嵌入模型，给两段简短英文在含义上的接近程度打分，是一项早期实验，适合研究或对比嵌入训练的人，不适合用于生产搜索。

由 MineAITechnology 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：mine-embed-v1 是 MineAI Technology 的小型英文文本嵌入模型，有 57.8M 参数。它把一句话变成由 512 个数字组成的向量，两个向量之间的余弦相似度表示两段文字的含义有多接近。作者称它是从零训练的早期实验，没有把它当作有竞争力或可用于生产的模型。

适合谁：如果你研究小规模嵌入训练，或者想要一个基线来对比后续模型，它适合你，研究人员和学生尤其合适。

Title: Who uses this model
行业 | 谁在用 | 怎么用 | 例子
研究 | 嵌入研究人员 | 把它作为后续版本的参照点 | 把它的分数和其他小型嵌入模型对比
教育 | 学生和学习者 | 研究嵌入模型是怎样从零训练的 | 阅读训练阶段并运行示例
软件 | 开发者 | 对简短英文做快速的相似度实验 | 给两句话的接近程度打分

如果你需要搜索、聚类或任何生产用途，可以跳过它，因为模型卡不建议这些用法。

用在哪里：

• 带 torch 的 Python 脚本
• 装有 Python 的 Windows、macOS 或 Linux

Title: Jobs it does
用途 | 适合谁 | 得到什么
句子相似度 | 研究人员 | 简短英文之间的余弦分数
基线对比 | 嵌入研究人员 | 一个用来对比的较弱参考模型
训练研究 | 学生 | 一个训练笔记公开的小模型

如何设置：你需要 Python 和几个包。仓库自带 model.py，所以你要通过它的 Embedder 类加载，而不是 AutoModel 或 SentenceTransformer。

• 带 pip 的 Python
• torch、safetensors 和 huggingface_hub
• transformers，只用于分词器
• 如果仓库是私有的，需要 Hugging Face 令牌

1. 安装上面列出的包。
2. 下载仓库，并把它的文件夹加入 Python 路径。
3. 导入 Embedder，并对你的句子编码。

pip install -U huggingface_hub
hf download MineAITechnology/mine-embed-v1

如何使用：下载文件夹，从它的模型文件里导入 Embedder，然后用一个句子列表调用 encode。结果已经归一化，所以用矩阵乘以它的转置就得到余弦相似度。输入默认截断到 128 个 token，也不使用查询或段落前缀。

import sys
from huggingface_hub import snapshot_download          # private repo: log in with an HF token first

folder = snapshot_download("MineAITechnology/mine-embed-v1")
sys.path.insert(0, folder)
from model import Embedder

e = Embedder(folder)                                    # loads config.json + model.safetensors, GPT-2 tokenizer
vecs = e.encode(["A man is playing a guitar.", "Someone strums an instrument.", "Stocks fell today."])
print(vecs.shape)                                       # torch.Size([3, 512]), already L2-normalised
print(vecs @ vecs.T)                                    # cosine similarities

Title: Main parts of the sample
工具 | 作用
snapshot_download | 从 Hugging Face 获取仓库文件夹
Embedder | 从该文件夹加载配置、权重和分词器
encode | 把句子列表变成归一化的向量

示例：你对三句话编码，两句讲有人弹吉他，一句讲股市下跌。你得到一个 3 乘 512 的向量数组，矩阵乘积显示每两句话之间有多接近。

新手与专家：嵌入就是一串代表句子含义的数字，所以意思相近的句子得到相近的数字串。第一次小测试就是用示例脚本，换成你自己的三句话。把这些分数当作实验性的结果。

编码器有 10 层、隐藏层大小 512 和 8 个注意力头，输出做平均池化和 L2 归一化。它使用 GPT-2 字节对分词器，这个分词器在英语以外表现较弱。训练分两个阶段：先在一个大部分是合成数据的语料上做掩码语言建模，再用 471,400 个三元组做对比微调，主要是 AllNLI 加上 Quora 重复问题。

随机初始化
掩码语言建模
对比微调
输入句子，输出 512 个数字的向量

注意事项：模型卡说，在 28 项任务的 MTEB 子集上，这个模型的分数远低于标准的小型嵌入模型。它还说，普通英文文本在训练语料中占比很小。

Title: Reference models, MTEB 28-task average
bge-base-en-v1.5: 66.25 分
bge-small-en-v1.5: 64.37 分
gte-small: 63.95 分
all-mpnet-base-v2: 62.66 分
all-MiniLM-L12-v2: 61.6 分

• License: Apache 2.0。
• Cost to run: 未提及。
• Data it reaches: 文件来自 Hugging Face，你编码的文字留在你自己的电脑上。
• Not for: 查找文档、给文本分组或运行线上搜索服务，模型卡不建议这些用法。

Hugging Face 上的数据（2026年11月13日）

• 任务：sentence similarity
• 框架：pytorch
• 参数量：57.8M
• Weights: about 231 MB in F32; about 29 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：77
• 点赞：6
• 许可证：apache-2.0
• 语言：en
• 标签：pytorch, safetensors, embeddings, sentence-embeddings, encoder, custom-architecture, experimental, sentence-similarity

链接

• 模型：https://huggingface.co/MineAITechnology/mine-embed-v1
• 文件：https://huggingface.co/MineAITechnology/mine-embed-v1/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download MineAITechnology/mine-embed-v1

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。