Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
一个紧凑的韩英稀疏检索模型,把查询和文档变成稀疏向量,用于倒排索引搜索,适合做韩语搜索的团队。
KURE-Sparse-nano 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U sentence-transformers
KURE-Sparse-nano 是一个面向韩语和英语文本的小型搜索模型,约 149M 参数。它是学习型稀疏检索器。模型把任何文本映射到 36,282 个已知词项上,并给每个词项一个权重。因为词项是固定的,倒排索引可以存放文档,你也能直接看到哪些词项匹配。
它能处理最长 8,192 个词元的长文档。它建立在 KURE-v2-unsupervised 模型之上。
它适合做韩语搜索、问答或 RAG 系统检索的开发者,尤其是想要一个匹配结果可检查的小模型。约 299 MB 的 BF16 权重文件在普通硬件上也放得下。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 搜索工程师 | 在倒排索引上构建韩语文档搜索 | 为一个问题找到合适的帮助文章 |
| 法律和公共服务 | 知识库团队 | 从长文本里检索段落 | 在一份长法规里定位一段内容 |
| AI 应用 | RAG 开发者 | 为语言模型获取上下文 | 把最相关的段落交给聊天机器人 |
| 研究 | NLP 研究者 | 比较稀疏检索和稠密检索 | 在韩语检索基准上测试 |
如果你不做搜索或检索,或者你的文本既不是韩语也不是英语,可以跳过它。
| 用例 | 谁用 | 得到什么 |
|---|---|---|
| 编码查询 | 开发者 | 一个 36,282 维的稀疏向量,平均约 147 维有值 |
| 编码文档 | 开发者 | 平均约 843 维有值的稀疏向量 |
| 匹配打分 | 搜索工程师 | 点积分数,分数越高越相关 |
先准备好下面这些东西。
pip install -U sentence-transformers
如果想把仓库文件下载到你的电脑,可以用 Hugging Face 自己的步骤。
pip install -U huggingface_hub hf download nlpai-lab/KURE-Sparse-nano
你用 encode_query 处理问题,用 encode_document 处理文本。它们各自附上训练时用过的对应标记,一个用于查询,一个用于文档。然后 similarity 给出点积分数,分数越高表示越接近。
from sentence_transformers import SparseEncoder
model = SparseEncoder("nlpai-lab/KURE-Sparse-nano", trust_remote_code=True)
query = "훈민정음은 언제 만들어졌나요?"
documents = [
"세종대왕은 1443년에 훈민정음을 창제하고 1446년에 이를 반포하였다.",
"김치는 배추나 무를 소금에 절인 뒤 고춧가루와 젓갈을 넣어 발효시킨 음식이다.",
"한라산은 해발 1,947m로 남한에서 가장 높은 산이며 제주도 중앙에 자리한다.",
]
query_embeddings = model.encode_query(query)
document_embeddings = model.encode_document(documents)
print(query_embeddings.shape, document_embeddings.shape)
# torch.Size([36282]) torch.Size([3, 36282])
# Dot-product scores (higher is more relevant)
scores = model.similarity(query_embeddings, document_embeddings)
print(scores)
# tensor([[119.3931, 11.5758, 6.4037]])| 工具 | 作用 |
|---|---|
| encode_query | 把问题变成稀疏向量,并加上查询标记 |
| encode_document | 把一段或多段文本变成稀疏向量,并加上文档标记 |
| similarity | 用点积给查询和文档打分 |
你用韩语问训民正音是什么时候创制的,并传入三篇简短文档。第一篇讲创制它的国王,得分 119.3931。另外两篇得分是 11.5758 和 6.4037,所以第一篇排在最前面。
先从上面的代码开始。它只需要三段短文本,并为每段打印一个分数,所以你能看到排序是怎么回事。然后再试你自己的韩语句子。
学习型稀疏检索保留了关键词搜索的透明度,同时学会哪些词项重要。模型卡报告它在 MTEB(kor, v2) 检索任务上的平均 nDCG@10 是 0.7716,是支持韩语的 0.5B 以下稀疏模型里最好的,并称它胜过一些大得多的稠密模型。
一个紧凑的韩英稀疏检索模型,把查询和文档变成稀疏向量,用于倒排索引搜索,适合做韩语搜索的团队。
由 nlpai-lab 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:KURE-Sparse-nano 是一个面向韩语和英语文本的小型搜索模型,约 149M 参数。它是学习型稀疏检索器。模型把任何文本映射到 36,282 个已知词项上,并给每个词项一个权重。因为词项是固定的,倒排索引可以存放文档,你也能直接看到哪些词项匹配。
它能处理最长 8,192 个词元的长文档。它建立在 KURE-v2-unsupervised 模型之上。
适合谁:它适合做韩语搜索、问答或 RAG 系统检索的开发者,尤其是想要一个匹配结果可检查的小模型。约 299 MB 的 BF16 权重文件在普通硬件上也放得下。
行业 | 谁在用 | 怎么用 | 例子
软件 | 搜索工程师 | 在倒排索引上构建韩语文档搜索 | 为一个问题找到合适的帮助文章
法律和公共服务 | 知识库团队 | 从长文本里检索段落 | 在一份长法规里定位一段内容
AI 应用 | RAG 开发者 | 为语言模型获取上下文 | 把最相关的段落交给聊天机器人
研究 | NLP 研究者 | 比较稀疏检索和稠密检索 | 在韩语检索基准上测试
如果你不做搜索或检索,或者你的文本既不是韩语也不是英语,可以跳过它。
用在哪里:
用例 | 谁用 | 得到什么
编码查询 | 开发者 | 一个 36,282 维的稀疏向量,平均约 147 维有值
编码文档 | 开发者 | 平均约 843 维有值的稀疏向量
匹配打分 | 搜索工程师 | 点积分数,分数越高越相关
如何设置:先准备好下面这些东西。
pip install -U sentence-transformers
如果想把仓库文件下载到你的电脑,可以用 Hugging Face 自己的步骤。
pip install -U huggingface_hub
hf download nlpai-lab/KURE-Sparse-nano
如何使用:你用 encode_query 处理问题,用 encode_document 处理文本。它们各自附上训练时用过的对应标记,一个用于查询,一个用于文档。然后 similarity 给出点积分数,分数越高表示越接近。
from sentence_transformers import SparseEncoder
model = SparseEncoder("nlpai-lab/KURE-Sparse-nano", trust_remote_code=True)
query = "훈민정음은 언제 만들어졌나요?"
documents = [
"세종대왕은 1443년에 훈민정음을 창제하고 1446년에 이를 반포하였다.",
"김치는 배추나 무를 소금에 절인 뒤 고춧가루와 젓갈을 넣어 발효시킨 음식이다.",
"한라산은 해발 1,947m로 남한에서 가장 높은 산이며 제주도 중앙에 자리한다.",
]
query_embeddings = model.encode_query(query)
document_embeddings = model.encode_document(documents)
print(query_embeddings.shape, document_embeddings.shape)
# torch.Size([36282]) torch.Size([3, 36282])
# Dot-product scores (higher is more relevant)
scores = model.similarity(query_embeddings, document_embeddings)
print(scores)
# tensor([[119.3931, 11.5758, 6.4037]])
工具 | 作用
encode_query | 把问题变成稀疏向量,并加上查询标记
encode_document | 把一段或多段文本变成稀疏向量,并加上文档标记
similarity | 用点积给查询和文档打分
示例:你用韩语问训民正音是什么时候创制的,并传入三篇简短文档。第一篇讲创制它的国王,得分 119.3931。另外两篇得分是 11.5758 和 6.4037,所以第一篇排在最前面。
新手与专家:先从上面的代码开始。它只需要三段短文本,并为每段打印一个分数,所以你能看到排序是怎么回事。然后再试你自己的韩语句子。
学习型稀疏检索保留了关键词搜索的透明度,同时学会哪些词项重要。模型卡报告它在 MTEB(kor, v2) 检索任务上的平均 nDCG@10 是 0.7716,是支持韩语的 0.5B 以下稀疏模型里最好的,并称它胜过一些大得多的稠密模型。
Title: 模型卡中的平均有值维度数
每个查询: 147 dimensions
每篇文档: 843 dimensions
安装 sentence-transformers
按名称加载稀疏编码器
对查询和文档编码
用点积打分并排序
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download nlpai-lab/KURE-Sparse-nano
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| KURE-Sparse-nano 本页 | 973 | 19 | 149M | apache-2.0 | |
| SPARSEUP共有 splade · sparse · modernbert | 6,627 | 63 | 188M | apache-2.0 | |
| hs-embed-1共有 modernbert · text-embeddings-inference · sentence-transformers | 22,412 | 7 | 112M | mit | |
| UIBK-Embedding-v1共有 modernbert · text-embeddings-inference · sentence-transformers | 2,612 | 11 | 149M | apache-2.0 | |
| SlideOn共有 sparse · sentence-transformers · feature-extraction | 830 | 18 | 174M | apache-2.0 | |
| mSlideOn共有 sparse · sentence-transformers · feature-extraction | 706 | 16 | 339M | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。