Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
用一个同时结合词元级匹配和整段文本匹配的模型,找出与查询最匹配的段落。这是因斯布鲁克大学发布的英语检索模型,适合构建搜索的人。
UIBK-Embedding-v1 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download DataScience-UIBK/uibk-embedding-v1
这是一个面向英语文本的检索模型。因斯布鲁克大学的数据科学小组从 ModernBERT-base 出发训练了它。搜索系统通常要在每段文本一个向量和每段文本多个词元向量之间做选择。这个模型一次编码就同时产生两种向量,并放进同一个索引,所以你只需运行一个模型,而不是两个。
构建英语文本搜索或检索,并且已经在用或想试用 PyLate 和后期交互检索的开发者与研究者。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 搜索工程 | 构建文档搜索的开发者 | 用模型为文档建立索引,并按查询给文档排序 | 用一个索引而不是两个来搜索一批支持文章 |
| 研究 | 信息检索研究者 | 在 BEIR 等基准上与其他检索器对比 | 把它的平均分与另一个 ColBERT 模型对比 |
| 知识工具 | 构建问答系统的团队 | 把它作为生成答案之前的检索环节 | 取回问题所指向的段落 |
如果你的文本不是英语,或者你需要能写出答案的模型,可以跳过它,因为它只给文本排序。
这个模型以 PyLate ColBERT 模型的形式加载,可以直接配合 PLAID 索引使用。文件可以在 Windows、macOS 或 Linux 上下载。
| Use case | Who | What they get back |
|---|---|---|
| 文档检索 | 搜索开发者 | 按相关度排序的匹配段落列表 |
| 基准对比 | 研究者 | 可与其他检索器对比的分数 |
| 问答检索 | 应用团队 | 供后续步骤使用的候选段落 |
你需要 Python 和 PyLate 库。模型文件来自 Hugging Face。
pip install -U huggingface_hub hf download DataScience-UIBK/uibk-embedding-v1
像使用任何 ColBERT 模型一样,在 PyLate 里加载它,然后为文档建立索引,并用查询对文档打分。文档最长可达 2048 个词元,查询最长可达 256 个词元。
| Tool | What it does |
|---|---|
| hf download | 把模型文件下载到你的电脑 |
| PyLate | 加载模型,并用查询给文档打分 |
| PLAID | 为向量建立索引,以便快速搜索 |
你用这个模型为一批英语文章建立索引,然后用一个问题去搜索。排序来自对同一组向量做的普通词元匹配打分,这个分数已经包含了整段文本的得分。
如果你刚接触这类模型,可以把它想成一种按回答问题的程度给段落排序的方法。先为几十篇简短的英语文档建立索引,再试一个查询。
如果你熟悉这个领域,每段文本会变成一组 128 维的向量,和任何 ColBERT 模型一样。列表里多出的三个向量承载稠密嵌入,所以普通 MaxSim 就等于词元得分加上加权的稠密得分。模型卡说它用知识蒸馏从一个公开的交叉编码器训练而来。
这些是作者自己报告的数字。
| Model | Average |
|---|---|
| UIBK-Embedding-v1 | 59.79 |
| LateOn | 57.22 |
模型卡补充说,这个模型比 LateOn 更大,也能读取更长的文档。当作者给 LateOn 2048 词元的文档时,它升到 57.69。
用一个同时结合词元级匹配和整段文本匹配的模型,找出与查询最匹配的段落。这是因斯布鲁克大学发布的英语检索模型,适合构建搜索的人。
由 DataScience-UIBK 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:这是一个面向英语文本的检索模型。因斯布鲁克大学的数据科学小组从 ModernBERT-base 出发训练了它。搜索系统通常要在每段文本一个向量和每段文本多个词元向量之间做选择。这个模型一次编码就同时产生两种向量,并放进同一个索引,所以你只需运行一个模型,而不是两个。
适合谁:构建英语文本搜索或检索,并且已经在用或想试用 PyLate 和后期交互检索的开发者与研究者。
Industry | Who uses it | How they use it | Example
搜索工程 | 构建文档搜索的开发者 | 用模型为文档建立索引,并按查询给文档排序 | 用一个索引而不是两个来搜索一批支持文章
研究 | 信息检索研究者 | 在 BEIR 等基准上与其他检索器对比 | 把它的平均分与另一个 ColBERT 模型对比
知识工具 | 构建问答系统的团队 | 把它作为生成答案之前的检索环节 | 取回问题所指向的段落
如果你的文本不是英语,或者你需要能写出答案的模型,可以跳过它,因为它只给文本排序。
用在哪里:这个模型以 PyLate ColBERT 模型的形式加载,可以直接配合 PLAID 索引使用。文件可以在 Windows、macOS 或 Linux 上下载。
Use case | Who | What they get back
文档检索 | 搜索开发者 | 按相关度排序的匹配段落列表
基准对比 | 研究者 | 可与其他检索器对比的分数
问答检索 | 应用团队 | 供后续步骤使用的候选段落
如何设置:你需要 Python 和 PyLate 库。模型文件来自 Hugging Face。
pip install -U huggingface_hub
hf download DataScience-UIBK/uibk-embedding-v1
如何使用:像使用任何 ColBERT 模型一样,在 PyLate 里加载它,然后为文档建立索引,并用查询对文档打分。文档最长可达 2048 个词元,查询最长可达 256 个词元。
Tool | What it does
hf download | 把模型文件下载到你的电脑
PyLate | 加载模型,并用查询给文档打分
PLAID | 为向量建立索引,以便快速搜索
示例:你用这个模型为一批英语文章建立索引,然后用一个问题去搜索。排序来自对同一组向量做的普通词元匹配打分,这个分数已经包含了整段文本的得分。
新手与专家:如果你刚接触这类模型,可以把它想成一种按回答问题的程度给段落排序的方法。先为几十篇简短的英语文档建立索引,再试一个查询。
如果你熟悉这个领域,每段文本会变成一组 128 维的向量,和任何 ColBERT 模型一样。列表里多出的三个向量承载稠密嵌入,所以普通 MaxSim 就等于词元得分加上加权的稠密得分。模型卡说它用知识蒸馏从一个公开的交叉编码器训练而来。
一次编码读取文本
词元向量和稠密向量组成一个列表
一个 PLAID 索引保存这个列表
普通 MaxSim 给结果排序
注意事项:这些是作者自己报告的数字。
Title: BEIR 平均 nDCG@10,15 个数据集
Model | Average
UIBK-Embedding-v1 | 59.79
LateOn | 57.22
模型卡补充说,这个模型比 LateOn 更大,也能读取更长的文档。当作者给 LateOn 2048 词元的文档时,它升到 57.69。
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download DataScience-UIBK/uibk-embedding-v1
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| UIBK-Embedding-v1 本页 | 2,612 | 11 | 149M | apache-2.0 | |
| hs-embed-1共有 modernbert · sentence-similarity · text-embeddings-inference | 22,412 | 7 | 112M | mit | |
| SPARSEUP共有 modernbert · sentence-similarity · text-embeddings-inference | 6,627 | 63 | 188M | apache-2.0 | |
| KURE-Sparse-nano共有 modernbert · text-embeddings-inference · sentence-transformers | 973 | 19 | 149M | apache-2.0 | |
| all-MiniLM-L6-v2共有 sentence-similarity · text-embeddings-inference · sentence-transformers | 174,740,184 | 6,104 | 22.7M | apache-2.0 | |
| bge-small-en-v1.5共有 sentence-similarity · text-embeddings-inference · sentence-transformers | 45,750,548 | 671 | 33.4M | mit |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。