DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
把英文文本转成嵌入向量,用于搜索、聚类和分类,向量还可以截短。适合做检索应用的开发者。
nomic-embed-text-v1.5 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub
nomic-embed-text-v1.5 是一个有 137M 参数的文本嵌入模型。它把英文文本转成向量,让你能比较含义、搜索文档或给相似文本分组。它的向量支持 Matryoshka 缩放,也就是只保留每个向量的前一部分。
它适合需要文本向量来做检索、分组或分类的开发者和数据团队。你需要懂一点 Python 才能运行它。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 检索应用开发者 | 用不同的前缀嵌入文档和用户问题 | 在一堆内部笔记上做一个搜索框 |
| 数据科学 | 分析师 | 嵌入文本来做聚类、找主题或去除近似重复 | 按主题给简短的反馈评论分组 |
| 机器学习 | 机器学习工程师 | 把向量当作分类器的输入特征 | 在嵌入向量之上训练分类器 |
需要处理其他语言文本的人可以跳过它,因为记录里只列了英语。
| Use case | Who | What they get back |
|---|---|---|
| RAG 建索引和查询 | 应用开发者 | 文档向量和与之匹配的问题向量 |
| 聚类和去重 | 分析师 | 能把相似文本分组并暴露重复内容的向量 |
| 分类特征 | 机器学习工程师 | 分类器可以用来训练的向量 |
pip install -U huggingface_hub
hf download nomic-ai/nomic-embed-text-v1.5
你嵌入的每段文本都必须以任务前缀开头,告诉模型这个向量是做什么用的。要建索引的文本加文档前缀,问题加查询前缀,然后调用 encode。
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("nomic-ai/nomic-embed-text-v1.5")
sentences = ['search_query: Who is Laurens van Der Maaten?']
embeddings = model.encode(sentences)
print(embeddings)要缩短向量,卡片的做法是先归一化,保留前 512 个值,再归一化一次。
import torch.nn.functional as F
from sentence_transformers import SentenceTransformer
matryoshka_dim = 512
model = SentenceTransformer("nomic-ai/nomic-embed-text-v1.5")
sentences = ['search_query: What is TSNE?', 'search_query: Who is Laurens van der Maaten?']
embeddings = model.encode(sentences, convert_to_tensor=True)
embeddings = F.layer_norm(embeddings, normalized_shape=(embeddings.shape[1],))
embeddings = embeddings[:, :matryoshka_dim]
embeddings = F.normalize(embeddings, p=2, dim=1)
print(embeddings)| Tool | What it does |
|---|---|
| search_document | 用于作为文档嵌入的文本的前缀,比如 RAG 索引 |
| search_query | 用于作为问题嵌入的文本的前缀,这些问题可以由文档来回答 |
| clustering | 用于想要分组、找主题或去重的文本的前缀 |
| classification | 用于向量要喂给分类器的文本的前缀 |
你在自己的文件上做一个问答应用。你在每个文本块前加文档前缀,在每个用户问题前加查询前缀,然后把两者都编码。每段文本都会变成一个可以比较的向量。
嵌入就是把一个句子变成一串数字,相似的句子得到相似的数字串。你可以先给一个带前缀的查询编码,然后打印结果。最容易犯的错误是忘记前缀。
在底层,这个模型用 Matryoshka 表示学习训练,所以前面的维度承载了大部分含义,你可以截断。卡片说它支持超过 2048 个词元的序列长度。卡片还提到同一团队的一个视觉模型,与这个模型共用向量空间。
把英文文本转成嵌入向量,用于搜索、聚类和分类,向量还可以截短。适合做检索应用的开发者。
由 nomic-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:nomic-embed-text-v1.5 是一个有 137M 参数的文本嵌入模型。它把英文文本转成向量,让你能比较含义、搜索文档或给相似文本分组。它的向量支持 Matryoshka 缩放,也就是只保留每个向量的前一部分。
适合谁:它适合需要文本向量来做检索、分组或分类的开发者和数据团队。你需要懂一点 Python 才能运行它。
Industry | Who uses it | How they use it | Example
软件 | 检索应用开发者 | 用不同的前缀嵌入文档和用户问题 | 在一堆内部笔记上做一个搜索框
数据科学 | 分析师 | 嵌入文本来做聚类、找主题或去除近似重复 | 按主题给简短的反馈评论分组
机器学习 | 机器学习工程师 | 把向量当作分类器的输入特征 | 在嵌入向量之上训练分类器
需要处理其他语言文本的人可以跳过它,因为记录里只列了英语。
用在哪里:
Use case | Who | What they get back
RAG 建索引和查询 | 应用开发者 | 文档向量和与之匹配的问题向量
聚类和去重 | 分析师 | 能把相似文本分组并暴露重复内容的向量
分类特征 | 机器学习工程师 | 分类器可以用来训练的向量
如何设置:
pip install -U huggingface_hub
hf download nomic-ai/nomic-embed-text-v1.5
如何使用:你嵌入的每段文本都必须以任务前缀开头,告诉模型这个向量是做什么用的。要建索引的文本加文档前缀,问题加查询前缀,然后调用 encode。
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("nomic-ai/nomic-embed-text-v1.5")
sentences = ['search_query: Who is Laurens van Der Maaten?']
embeddings = model.encode(sentences)
print(embeddings)
要缩短向量,卡片的做法是先归一化,保留前 512 个值,再归一化一次。
import torch.nn.functional as F
from sentence_transformers import SentenceTransformer
matryoshka_dim = 512
model = SentenceTransformer("nomic-ai/nomic-embed-text-v1.5")
sentences = ['search_query: What is TSNE?', 'search_query: Who is Laurens van der Maaten?']
embeddings = model.encode(sentences, convert_to_tensor=True)
embeddings = F.layer_norm(embeddings, normalized_shape=(embeddings.shape[1],))
embeddings = embeddings[:, :matryoshka_dim]
embeddings = F.normalize(embeddings, p=2, dim=1)
print(embeddings)
Tool | What it does
search_document | 用于作为文档嵌入的文本的前缀,比如 RAG 索引
search_query | 用于作为问题嵌入的文本的前缀,这些问题可以由文档来回答
clustering | 用于想要分组、找主题或去重的文本的前缀
classification | 用于向量要喂给分类器的文本的前缀
示例:你在自己的文件上做一个问答应用。你在每个文本块前加文档前缀,在每个用户问题前加查询前缀,然后把两者都编码。每段文本都会变成一个可以比较的向量。
新手与专家:嵌入就是把一个句子变成一串数字,相似的句子得到相似的数字串。你可以先给一个带前缀的查询编码,然后打印结果。最容易犯的错误是忘记前缀。
在底层,这个模型用 Matryoshka 表示学习训练,所以前面的维度承载了大部分含义,你可以截断。卡片说它支持超过 2048 个词元的序列长度。卡片还提到同一团队的一个视觉模型,与这个模型共用向量空间。
给每段文本加任务前缀
用模型对文本编码
可选:把向量截短到 512 个值
归一化并比较向量
注意事项:
Title: 权重大小,单位兆字节
F32: 547 MB
4-bit estimate: 68 MB
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download nomic-ai/nomic-embed-text-v1.5
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| nomic-embed-text-v1.5 本页 | 11,809,681 | 994 | 137M | apache-2.0 | |
| bge-small-en-v1.5共有 mteb · model-index · sentence-similarity | 45,750,548 | 671 | 33.4M | mit | |
| bge-base-en-v1.5共有 mteb · model-index · sentence-similarity | 8,508,165 | 542 | 109M | mit | |
| multilingual-e5-large共有 mteb · model-index · sentence-similarity | 7,120,555 | 1,284 | 560M | mit | |
| bge-small-en-v1.5-GGUF共有 mteb · model-index · sentence-similarity | 165,239 | 10 | 33.2M | mit | |
| all-MiniLM-L6-v2共有 sentence-similarity · text-embeddings-inference · sentence-transformers | 174,740,184 | 6,104 | 22.7M | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。