Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
把 100 多种语言的文字转成向量用于搜索,从短句到 8192 词元的文档都行。一个模型同时支持稠密、多向量和稀疏检索。由 BAAI 发布。
bge-m3 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download BAAI/bge-m3
BGE-M3 是 BAAI 发布的嵌入模型,把文字转成向量,方便你搜索和比较段落。它的三大特点是多功能、多语言和多种输入长度。
一个模型提供三种检索方式:稠密、多向量和稀疏。它支持 100 多种语言,你给它的文字可以是一个短句,也可以是长达 8192 词元的长文档。
适合构建多语言文字的搜索、问答或检索增强生成的开发者,也适合比较检索方法的研究者。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 构建 RAG 系统的团队 | 把文档和查询做成嵌入用于检索 | 跨语言找出相关段落 |
| 企业搜索 | 知识库构建者 | 把问题匹配到长文档 | 搜索最长 8192 词元的文件 |
| 研究 | 检索研究者 | 测试稠密、稀疏和多向量模式 | 把混合检索和单一模式对比 |
如果你需要会写文字的模型,可以跳过它,因为它只生成用于匹配的向量和词元权重。
| Use case | Who | What they get back |
|---|---|---|
| 语义搜索 | 搜索开发者 | 跨语言按含义匹配的稠密向量 |
| 关键词式匹配 | 使用混合检索的团队 | 类似 BM25 的稀疏词元权重 |
| 长文档检索 | 知识库团队 | 最长 8192 词元输入的嵌入 |
pip install -U huggingface_hub hf download BAAI/bge-m3
用这个模型为你的文档和查询生成嵌入,然后比较它们。卡片推荐先混合检索、再重排序的流程。
| Mode | What it does |
|---|---|
| 稠密检索 | 比较整段文字的向量来看含义 |
| 多向量检索 | 每段文字保留多个向量,匹配更细 |
| 稀疏检索 | 给出类似 BM25 的词元权重,生成稠密嵌入时不用额外成本 |
| 重排序 | 检索之后用重排序模型过滤选出的文字 |
你把一批多种语言的文档做成嵌入,再把一个问题也做成嵌入,按相似度给文档排序。然后用 bge-reranker 之类的重排序模型过滤靠前的结果,让准确度更高。
如果你刚接触嵌入,可以把这个模型看作把每段文字变成一串数字的工具,含义相近的文字,数字也靠得近。先给两个句子做嵌入再比较。
如果你熟悉这个领域,一个检查点就覆盖稠密、多向量和稀疏检索,所以不用第二个模型就能混合嵌入信号和词法信号。卡片推荐把混合检索和交叉编码器重排序搭配使用。
把 100 多种语言的文字转成向量用于搜索,从短句到 8192 词元的文档都行。一个模型同时支持稠密、多向量和稀疏检索。由 BAAI 发布。
由 BAAI 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:BGE-M3 是 BAAI 发布的嵌入模型,把文字转成向量,方便你搜索和比较段落。它的三大特点是多功能、多语言和多种输入长度。
一个模型提供三种检索方式:稠密、多向量和稀疏。它支持 100 多种语言,你给它的文字可以是一个短句,也可以是长达 8192 词元的长文档。
适合谁:适合构建多语言文字的搜索、问答或检索增强生成的开发者,也适合比较检索方法的研究者。
Industry | Who uses it | How they use it | Example
软件 | 构建 RAG 系统的团队 | 把文档和查询做成嵌入用于检索 | 跨语言找出相关段落
企业搜索 | 知识库构建者 | 把问题匹配到长文档 | 搜索最长 8192 词元的文件
研究 | 检索研究者 | 测试稠密、稀疏和多向量模式 | 把混合检索和单一模式对比
如果你需要会写文字的模型,可以跳过它,因为它只生成用于匹配的向量和词元权重。
用在哪里:
Use case | Who | What they get back
语义搜索 | 搜索开发者 | 跨语言按含义匹配的稠密向量
关键词式匹配 | 使用混合检索的团队 | 类似 BM25 的稀疏词元权重
长文档检索 | 知识库团队 | 最长 8192 词元输入的嵌入
如何设置:
pip install -U huggingface_hub
hf download BAAI/bge-m3
如何使用:用这个模型为你的文档和查询生成嵌入,然后比较它们。卡片推荐先混合检索、再重排序的流程。
Mode | What it does
稠密检索 | 比较整段文字的向量来看含义
多向量检索 | 每段文字保留多个向量,匹配更细
稀疏检索 | 给出类似 BM25 的词元权重,生成稠密嵌入时不用额外成本
重排序 | 检索之后用重排序模型过滤选出的文字
示例:你把一批多种语言的文档做成嵌入,再把一个问题也做成嵌入,按相似度给文档排序。然后用 bge-reranker 之类的重排序模型过滤靠前的结果,让准确度更高。
新手与专家:如果你刚接触嵌入,可以把这个模型看作把每段文字变成一串数字的工具,含义相近的文字,数字也靠得近。先给两个句子做嵌入再比较。
如果你熟悉这个领域,一个检查点就覆盖稠密、多向量和稀疏检索,所以不用第二个模型就能混合嵌入信号和词法信号。卡片推荐把混合检索和交叉编码器重排序搭配使用。
用 BGE-M3 给文档做嵌入
用稠密和稀疏信号检索
在混合检索里合并结果
用交叉编码器重排序
注意事项:
Title: 最大输入长度,单位词元
bge-m3: 8192 词元
bge-m3-unsupervised: 8192 词元
bge-large-en-v1.5: 512 词元
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download BAAI/bge-m3
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| bge-m3 本页 | 29,282,167 | 3,989 | — | mit | |
| multilingual-e5-large共有 xlm-roberta · sentence-similarity · text-embeddings-inference | 7,120,555 | 1,284 | 560M | mit | |
| all-MiniLM-L6-v2共有 sentence-similarity · text-embeddings-inference · sentence-transformers | 174,740,184 | 6,104 | 22.7M | apache-2.0 | |
| bge-small-en-v1.5共有 sentence-similarity · text-embeddings-inference · sentence-transformers | 45,750,548 | 671 | 33.4M | mit | |
| paraphrase-multilingual-MiniLM-L12-v2共有 sentence-similarity · text-embeddings-inference · sentence-transformers | 26,540,125 | 1,505 | 118M | apache-2.0 | |
| bge-base-en-v1.5共有 sentence-similarity · text-embeddings-inference · sentence-transformers | 8,508,165 | 542 | 109M | mit |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。