pplx-embed-v2-late-0.6b

pplx-embed-v2-late-0.6b

用 ColBERT 风格的模型给查询与文本、图像和文档页面打分，每个词元保留一个小向量。适合为混合文档搭建搜索的开发者。

由 perplexity-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：pplx-embed-v2-late-0.6b 是 perplexity-ai 的 pplx-embed-v2-late 系列多模态检索模型中较小的一个。它基于 Qwen3.5，给每个词元一个 128 维向量。查询和文档再用 MaxSim 这种后期交互分数来匹配。它与 9B 模型共享嵌入空间，所以这个模型可以查询由更大模型建立的索引。

适合谁：适合为文本、图像和文档页面搭建搜索，并希望用小模型做词元级匹配的开发者。

行业 | 谁在用 | 怎么用 | 例子
软件 | 搜索工程师 | 用后期交互给查询对应的段落排序 | 把一个短问题与一组文本段落打分
文档密集型团队 | 处理扫描页的开发者 | 嵌入页面图像，并与文字查询匹配 | 找出能回答书面问题的那一页
法律研究 | 搜索工具开发者 | 把法律问题与来源段落匹配 | 来源自己的查询问的是哪部法规规定了时效

需要聊天模型或文本生成的人可以跳过，因为它只产出向量和分数。

用在哪里：

• 带 Sentence Transformers 的 Python：模型通过 MultiVectorEncoder 类加载。
• CUDA GPU：来源里的示例把设备设为 cuda。
• 用 9B 模型建立的索引：0.6B 模型可以查询它。
• Windows、macOS 或 Linux：下载步骤在这三个系统上都能用 Python 完成。

使用场景 | 谁用 | 得到什么
文本检索 | 搜索开发者 | 每个查询与每个段落之间的 MaxSim 分数
页面图像检索 | 处理扫描页的开发者 | 文字查询与每个页面图像之间的 MaxSim 分数
在大索引上低成本查询 | 用 9B 模型建索引的团队 | 一个可以对该索引做查询的较小模型

如何设置：

先准备好：

• Python 和 pip。
• sentence-transformers 6.0.0 或更新版本。
• transformers 5.4.0 或更新版本。
• Pillow，如果你要嵌入图像。

1. 用 pip 安装这两个包。
2. 可选：用 hf 命令下载模型文件。
3. 用 MultiVectorEncoder 加载模型，名字用 0.6B 或 9B 的都可以。

pip install 'sentence-transformers>=6.0.0' 'transformers>=5.4.0'

pip install -U huggingface_hub
hf download perplexity-ai/pplx-embed-v2-late-0.6b

如何使用：

用 encode_query 编码查询，用 encode_document 编码文档，再调用 similarity 得到 MaxSim 分数。纯文本和纯图像的批次要分开调用，因为同一批里混合两者不受支持。导出使用原生的 Sentence Transformers 模块，所以不需要自定义 Python 代码。

from PIL import Image
from sentence_transformers import MultiVectorEncoder

model = MultiVectorEncoder(
    "perplexity-ai/pplx-embed-v2-late-0.6b",  # or "perplexity-ai/pplx-embed-v2-late-9b"
    device="cuda",
)
queries = model.encode_query(["what statute governs limitations?"])
documents = model.encode_document(["A document passage"])
scores = model.similarity(queries, documents)  # MaxSim

image = Image.open("document.png").convert("RGB")
image_documents = model.encode_document([image])
image_scores = model.similarity(queries, image_documents)

Title: 来源里出现的调用
工具 | 作用
MultiVectorEncoder | 用多向量设置加载模型
encode_query | 把查询变成每个词元一个向量
encode_document | 对文本段落或图像做同样的事
similarity | 用 MaxSim 给查询和文档打分

示例：

你问 "what statute governs limitations?"，把它先与一段文本比较，再与一张作为图像打开的扫描页比较。每次比较都返回一个 MaxSim 分数。文本文档和图像文档要放在各自单独的编码调用里。

新手与专家：

多数嵌入模型把整段文本压成一个向量。这个模型给每个词元留一个小向量，再把每个查询词元与文档中最匹配的词元对上。一个好的第一步是用一个查询和一小段文字运行示例代码，看看分数。

一个内部的 18B 参数 ColBERT 教师模型通过蒸馏训练了两种规模，用的是 LEAF 风格的词元级目标。在 0.6B 模型里，每个权重都被更新。在 9B 模型里，只有最后八层 transformer 被完整更新，其余层用 LoRA。PyLate 把查询和文档标记放在第二位，而这个模型要求放在最前面。

把查询编码成每个词元一个向量
把每篇文档编码成每个词元一个向量
把每个查询词元与文档中最匹配的词元对上
把这些匹配相加得到 MaxSim 分数

注意事项：说明页在一个公开的页面检索基准上比较了两种规模。

Title: 页面图像上的 ViDoRe v3 nDCG@10
0.6B 模型: 62.3 percent
9B 模型: 65.2 percent

• 活跃规模：说明页给出这个模型有 340M 活跃参数，9B 模型有 7.4B。
• Markdown 输入：同一基准上 0.6B 得 61.2 percent，9B 得 64.7 percent。
• 输入：文本和图像要分开，不支持混合批次。
• License: mit
• Cost to run: 没有提到 API 密钥、账号或付费服务。
• Data it reaches: 你从 Hugging Face 下载的文件，以及你编码的文本和图像。
• Not for: 文本生成，或把文本和图像混在一起的批次。

Hugging Face 上的数据（2026年11月13日）

• 任务：feature extraction
• 框架：sentence-transformers
• 参数量：594M
• Weights: about 2.4 GB in F32; about 297 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：2,765
• 点赞：71
• 许可证：mit
• Quantized versions: 4
• Fine-tunes: 6
• 标签：sentence-transformers, safetensors, qwen3_5, feature-extraction, sentence-similarity, mteb, multilingual

链接

• 模型：https://huggingface.co/perplexity-ai/pplx-embed-v2-late-0.6b
• 文件：https://huggingface.co/perplexity-ai/pplx-embed-v2-late-0.6b/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download perplexity-ai/pplx-embed-v2-late-0.6b

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。