Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
把文字转成数字向量,用于搜索、检索、分类和聚类,支持 100 多种语言,包括编程语言。是 Qwen3 Embedding 系列里最小的 0.6B 参数文本嵌入模型。
Qwen3-Embedding-0.6B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download Qwen/Qwen3-Embedding-0.6B
Qwen3-Embedding-0.6B 是 Qwen 团队的文本嵌入模型,基于 Qwen3-0.6B-Base 构建。它把一段文字变成一个数字向量,让程序能按含义比较文本。它是系列里最小的一个,系列还有 4B 和 8B 的嵌入模型以及单独的重排序模型。
构建搜索、检索和文本归类功能,并想要一个小型嵌入模型的开发者。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件开发 | 搜索与检索工程师 | 把文档和查询做成向量建立索引 | 对帮助中心的搜索 |
| 代码工具 | 开发工具构建者 | 按含义检索代码 | 用一句平实的描述找到一个函数 |
| 数据与分析 | 数据团队 | 对文本分组和分类 | 对客服消息做聚类 |
| 语言服务 | 多语言团队 | 跨语言匹配文本 | 把一段文字和它的译文关联起来 |
如果你想要一个能写回答的聊天模型,可以跳过它,因为它只产生向量。
| Use case | Who | What they get back |
|---|---|---|
| 文本检索 | 搜索开发者 | 能按与查询的接近程度给段落排序的向量 |
| 代码检索 | 工具构建者 | 用于把代码和描述匹配起来的向量 |
| 文本分类与聚类 | 数据团队 | 可交给分类器或分组步骤的向量 |
pip install -U huggingface_hub hf download Qwen/Qwen3-Embedding-0.6B
把你的文本交给模型,它为每段文本返回一个向量。比较向量就能找到相关的文本。向量最多 1024 个数字,你可以在 32 到 1024 之间选长度。卡片还说,加一条用英文写的简短任务指令,通常能把结果提升 1% 到 5%。
你对用户的一个问题和一组段落做嵌入,并加上一条说明任务的简短英文指令。每段文本都返回一个向量,向量离问题最近的段落就是最佳匹配。
如果你刚接触嵌入,可以把每个向量看成一段文字含义的指纹。对几个句子做嵌入,看看哪些靠得近。
这个模型有 596M 参数、28 层、32K 上下文,输出最多 1024 维,可自定义小到 32 的维度。它支持指令和 100 多种语言,包括编程语言。重排序是另一个模型系列,所以要不要把嵌入模型和重排序模型搭配,由你自己决定。
- 尺寸:这个系列有 0.6B、4B 和 8B,越大的模型给出的向量越大
把文字转成数字向量,用于搜索、检索、分类和聚类,支持 100 多种语言,包括编程语言。是 Qwen3 Embedding 系列里最小的 0.6B 参数文本嵌入模型。
由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Qwen3-Embedding-0.6B 是 Qwen 团队的文本嵌入模型,基于 Qwen3-0.6B-Base 构建。它把一段文字变成一个数字向量,让程序能按含义比较文本。它是系列里最小的一个,系列还有 4B 和 8B 的嵌入模型以及单独的重排序模型。
适合谁:构建搜索、检索和文本归类功能,并想要一个小型嵌入模型的开发者。
Industry | Who uses it | How they use it | Example
软件开发 | 搜索与检索工程师 | 把文档和查询做成向量建立索引 | 对帮助中心的搜索
代码工具 | 开发工具构建者 | 按含义检索代码 | 用一句平实的描述找到一个函数
数据与分析 | 数据团队 | 对文本分组和分类 | 对客服消息做聚类
语言服务 | 多语言团队 | 跨语言匹配文本 | 把一段文字和它的译文关联起来
如果你想要一个能写回答的聊天模型,可以跳过它,因为它只产生向量。
用在哪里:
Use case | Who | What they get back
文本检索 | 搜索开发者 | 能按与查询的接近程度给段落排序的向量
代码检索 | 工具构建者 | 用于把代码和描述匹配起来的向量
文本分类与聚类 | 数据团队 | 可交给分类器或分组步骤的向量
如何设置:
pip install -U huggingface_hub
hf download Qwen/Qwen3-Embedding-0.6B
如何使用:把你的文本交给模型,它为每段文本返回一个向量。比较向量就能找到相关的文本。向量最多 1024 个数字,你可以在 32 到 1024 之间选长度。卡片还说,加一条用英文写的简短任务指令,通常能把结果提升 1% 到 5%。
示例:你对用户的一个问题和一组段落做嵌入,并加上一条说明任务的简短英文指令。每段文本都返回一个向量,向量离问题最近的段落就是最佳匹配。
新手与专家:如果你刚接触嵌入,可以把每个向量看成一段文字含义的指纹。对几个句子做嵌入,看看哪些靠得近。
这个模型有 596M 参数、28 层、32K 上下文,输出最多 1024 维,可自定义小到 32 的维度。它支持指令和 100 多种语言,包括编程语言。重排序是另一个模型系列,所以要不要把嵌入模型和重排序模型搭配,由你自己决定。
你给查询加一条简短指令
模型把每段文本变成向量
你比较向量的接近程度
你保留最近的匹配项
注意事项:
Title: 按模型尺寸划分的嵌入维度
Qwen3-Embedding-0.6B: 1024
Qwen3-Embedding-4B: 2560
Qwen3-Embedding-8B: 4096
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download Qwen/Qwen3-Embedding-0.6B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Qwen3-Embedding-0.6B 本页 | 8,761,091 | 1,346 | 596M | apache-2.0 | |
| Qwen3-Embedding-4B共有 sentence-similarity · text-embeddings-inference · sentence-transformers | 2,426,700 | 351 | 4B | apache-2.0 | |
| Qwen3-Embedding-8B共有 sentence-similarity · text-embeddings-inference · sentence-transformers | 2,358,928 | 858 | 7.6B | apache-2.0 | |
| Yalda Embedding共有 sentence-similarity · sentence-transformers · qwen3 | 204 | 5 | 596M | apache-2.0 | |
| voyage-4-nano共有 text-embeddings-inference · sentence-transformers · qwen3 | 90,118 | 152 | 346M | apache-2.0 | |
| all-MiniLM-L6-v2共有 sentence-similarity · text-embeddings-inference · sentence-transformers | 174,740,184 | 6,104 | 22.7M | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。