mSlideOn

mSlideOn

把查询和文档变成可用倒排索引检索的稀疏向量，支持多种语言和长文本。这是一个 339M 参数的多语言检索模型，适合构建搜索的人。

由 lightonai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：mSlideOn 是 LightOn 推出的多语言检索模型。它把每个查询或文档变成稀疏向量，也就是 32,768 个位置里大部分是空的。这让它能配合普通的倒排索引搜索使用。它以 mLateOn 模型为起点，有 339M 个参数。

适合谁：为多种语言文本、长文档或代码构建搜索，并且想用稀疏向量而不是稠密向量的开发者和研究人员。记录里列出了英语、法语、德语、意大利语、西班牙语、葡萄牙语、瑞典语和挪威语。

Industry | Who uses it | How they use it | Example
搜索工程 | 搜索团队 | 给倒排索引搜索系统加上语义匹配 | 用西班牙语查询匹配法语文档
软件 | 知识类工具的开发者 | 从长文档中检索段落 | 找到一份长报告里正确的章节
代码工具 | 助手开发者 | 为一个问题检索代码 | 根据描述找到一个函数
研究 | 检索研究人员 | 比较稀疏、稠密和后期交互模型 | 核对公开检索基准上的分数

如果你只搜索简短的英文文本，而且已经有满意的稠密检索器，可以跳过它。LightOn 的 SlideOn 是英文版本。

用在哪里：

• 使用 sentence-transformers 库的 Python 项目
• 存储稀疏向量的倒排索引搜索系统
• 安装了 Python 的 Windows、macOS 或 Linux

Use case | Who | What they get back
多语言搜索 | 搜索工程师 | 针对另一种语言的查询排好序的文档
长文档检索 | 开发者 | 来自最长 8,192 个词元文本的匹配结果
代码检索 | 工具开发者 | 按文字查询排好序的代码

如何设置：

• Windows、macOS 或 Linux 上的 Python
• huggingface_hub 包，以及运行模型用的 sentence-transformers
• 为 F32 权重预留约 1.4 GB 空间

1. 安装 Hugging Face 客户端。
2. 把模型文件下载到你的电脑。
3. 用 sentence-transformers 库加载模型。

pip install -U huggingface_hub
hf download lightonai/mSlideOn

如何使用：用模型给你的文档和查询编码，把每个文档的活跃位置存进倒排索引，再用两个向量的点积给查询打分。来源里没有代码，所以具体调用请参照模型卡和 sentence-transformers 的指南。

Tool | What it does
sentence-transformers | 加载模型并给文本编码
Inverted index | 存储每个文档的活跃位置，便于快速查找
Dot product | 给查询与文档向量打分

示例：你给一批法语和德语文章建立索引，然后用一个西班牙语问题去搜索。模型把每段文本变成稀疏向量，点积会把最匹配这个问题的文章排在前面。然后你读排名靠前的几篇。

新手与专家：如果你是新手，可以把每段文本想成一小串带权重的、学出来的主题特征，搜索就是匹配这些串。第一次尝试可以用几篇文档和一个另一种语言的查询。

如果你熟悉这个领域：稀疏自编码器把 mLateOn 的词元表示抬升到 768 维，保留最强的 32 个激活并应用 ReLU，再对词元做最大池化得到一个向量。查询和文档的稀疏度可以通过 Matryoshka 训练分别调整。

文本
mLateOn 词元表示
稀疏编码器，前 32 个激活
最大池化为一个向量
倒排索引搜索

注意事项：作者报告 mSlideOn 在 MTEB 代码平均分上超过了它的稠密和后期交互同类模型。

Title: MTEB Code 平均分，nDCG@10
mDenseOn: 71.53 points
mLateOn: 73.48 points
mSlideOn: 74.78 points

• Input length: 最长 8,192 个词元
• Sparsity: 查询和文档的稀疏度可以各自调整
• License: Apache 2.0
• Cost to run: 未提及
• Data it reaches: 下载到你电脑上的模型文件，以及你选择建立索引的文本
• Not for: 来源没有列出，不过记录里只列了八种语言

Hugging Face 上的数据（2026年11月13日）

• 任务：feature extraction
• 框架：sentence-transformers
• 参数量：339M
• Weights: about 1.4 GB in F32; about 170 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：706
• 点赞：16
• 许可证：apache-2.0
• 语言：en, fr, de, it, es, pt, sv, no
• 基于：lightonai/mLateOn
• 标签：sentence-transformers, safetensors, slideon, sparse, sentence-similarity, custom-code, multilingual, code-search, sparse-retrieval, matryoshka, feature-extraction, code

链接

• 模型：https://huggingface.co/lightonai/mSlideOn
• 文件：https://huggingface.co/lightonai/mSlideOn/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download lightonai/mSlideOn

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。