voyage-4-nano

voyage-4-nano

来自 Voyage 4 系列、3.46 亿参数的多语言文本嵌入模型，用于语义搜索和检索，向量大小可调。适合构建搜索和 RAG 系统的开发者。

由 MongoDB 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：voyage-4-nano 把文本变成数字向量，用于语义搜索和检索。它由 Voyage AI 作为 Voyage 4 模型的一部分开发，这个副本放在 MongoDB 的账号下。它支持多语言，输入最长 32,000 个 token，有 3.46 亿参数。

适合谁：适合构建搜索或检索系统，并想要一个用于本地开发的小型嵌入模型、以后可以换到更大的 Voyage 4 模型的开发者。

Industry | Who uses it | How they use it | Example
软件 | 搜索工程师 | 为语义搜索嵌入文档和查询 | 找到能回答问题的段落
AI 应用 | RAG 开发者 | 为聊天机器人检索支撑文档 | 在写出回答之前取回上下文
数据平台 | 数据库团队 | 存储紧凑向量以便快速查找 | 保存二进制或 8 位嵌入来节省空间

如果你需要图像的嵌入模型，或者用不到向量搜索，可以跳过。

用在哪里：它通过 transformers 或 sentence-transformers 库用 Python 运行。支持 Windows、macOS 或 Linux，可选用 Nvidia GPU 来加快速度。

• 使用 sentence-transformers 的 Python 脚本
• 使用 transformers 4.56 或更新版本的 Python 脚本
• 本地开发，之后再换到更大的 Voyage 4 模型

Use case | Who | What they get back
查询嵌入 | 搜索开发者 | 问题的向量，自动使用正确的提示词
文档嵌入 | 数据工程师 | 列表中每个文档对应一个向量
灵活的尺寸 | 平台团队 | 2048、1024、512 或 256 维的向量

如何设置：你需要装有 transformers 4.56 或更新版本的 Python，或者 sentence-transformers 包。Hugging Face 标注 BF16 权重约 693 MB。模型卡建议在 Nvidia GPU 上使用相同的参数，GPU 支持时用 flash attention。

• Python
• transformers 4.56 或更新版本，或 sentence-transformers
• 约 693 MB 磁盘空间，用于 BF16 权重
• 可选的 Nvidia GPU

1. 安装 Hugging Face 下载工具，或者让库自动获取模型。
2. 用 SentenceTransformer 或 AutoModel 加载模型。
3. 嵌入你的查询和文档。

pip install -U huggingface_hub
hf download MongoDB/voyage-4-nano

如何使用：加载模型后，对问题调用 encode_query，对段落调用 encode_document，这样会替你加上正确的提示词。你可以用 truncate_dim 缩短向量。

from sentence_transformers import SentenceTransformer
import torch

# Standard loading, assuming no GPU access
model = SentenceTransformer(
    "voyageai/voyage-4-nano",
    trust_remote_code=True,
    truncate_dim=2048
)

query = "Which planet is known as the Red Planet?"
documents = [
    "Venus is often called Earth's twin because of its similar size and proximity.",
    "Mars, known for its reddish appearance, is often referred to as the Red Planet.",
    "Jupiter, the largest planet in our solar system, has a prominent red spot.",
    "Saturn, famous for its rings, is sometimes mistaken for the Red Planet."
]

# Encode via encode_query and encode_document to automatically use the right prompts
query_embedding = model.encode_query(query)
document_embeddings = model.encode_document(documents)

Tool | What it does
SentenceTransformer | 用 truncate_dim 等设置加载模型
encode_query | 用查询提示词嵌入问题
encode_document | 用文档提示词嵌入段落

示例：你嵌入一个关于红色星球的问题和四段关于行星的短文。问题向量和火星那一段的向量最接近，所以相似度搜索会先返回火星那句话。

新手与专家：如果你是新手，嵌入就是把一句话变成一串数字，让计算机能比较含义。运行这个示例，然后把问题向量和每个段落向量做对比。

如果你熟悉这个领域，这个模型用 Matryoshka 表示学习支持 2048、1024、512 和 256 维。它还用了量化感知训练，所以输出可以是 32 位浮点、有符号或无符号 8 位整数，或者二进制。它的向量与其他 Voyage 4 模型共用同一个空间。

文本输入
为查询或文档加上提示词
嵌入模型
所选大小和类型的向量
相似度搜索

注意事项：你可以在 Voyage 4 系列里混用不同大小的模型，比如用一个模型建索引、用另一个模型查询，而不必重建索引。

• License: Apache 2.0
• Cost to run: 本地使用没有提到 API 密钥、账号或付费服务
• Data it reaches: 你在自己机器上嵌入的文本，以及从 Hugging Face 下载的文件
• Not for: 图像或其他非文本输入

Title: 参数量，单位为百万
Non-embedding: 180 M
Embedding: 160 M

Hugging Face 上的数据（2026年11月13日）

• 任务：feature extraction
• 框架：sentence-transformers
• 参数量：346M
• Weights: about 693 MB in BF16; about 173 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：90,118
• 点赞：152
• 许可证：apache-2.0
• Quantized versions: 12
• Fine-tunes: 2
• 标签：sentence-transformers, safetensors, qwen3, text-generation, transformers, feature-extraction, multilingual, text-embeddings-inference

链接

• 模型：https://huggingface.co/MongoDB/voyage-4-nano
• 文件：https://huggingface.co/MongoDB/voyage-4-nano/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download MongoDB/voyage-4-nano

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。