Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
把波斯语文本转成 1,024 维的嵌入向量,用于语义搜索和检索。适合需要把波斯语问题匹配到正确段落的开发者。
Yalda Embedding 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U sentence-transformers transformers torch
Yalda Embedding 把波斯语文本转成 1,024 个数字组成的向量,让搜索按含义匹配,而不是只看字面。它是 Qwen3-Embedding-0.6B 的微调版本,用超过一百万组波斯语查询与对应文档的配对训练而成。训练还用到了更大的教师模型 F2LLM-v2-8B 蒸馏出的知识。
适合需要在波斯语文本上做检索的开发者和搜索团队,也适合在波斯语任务上比较嵌入模型的研究人员。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 后端开发者 | 给波斯语文档库加上按含义匹配的搜索 | 用户问伊朗的首都在哪,得到讲德黑兰的段落 |
| 教育 | 学习平台团队 | 把学生的问题匹配到波斯语学习段落 | 问秋天树叶为什么变色,找到讲叶绿素分解的段落 |
| 研究 | 自然语言处理研究者 | 在波斯语任务上把它当作检索基线 | 在模型卡列出的 FaMTEB 检索任务上比较分数 |
| 知识管理 | 数据团队 | 把内部波斯语文档一次性嵌入并建好索引,供之后查询 | 预先算好段落向量,放进向量库里检索 |
如果你的文本不是波斯语,可以跳过它,因为模型卡说明它是为波斯语构建和测试的。
只要能运行 Python 和 sentence-transformers 库,它就能用。
| 使用场景 | 谁用 | 得到什么 |
|---|---|---|
| 语义搜索 | 应用开发者 | 与每条查询含义最接近的段落 |
| 稠密检索 | 搜索团队 | 按余弦相似度排序的段落 |
| 模型比较 | 研究人员 | 可以和其他模型对照的波斯语检索分数 |
你需要装有 pip 的 Python,还要给权重留出空间,F32 权重约 2.4 GB。
pip install -U sentence-transformers transformers torch
pip install -U huggingface_hub hf download Yaldat/Yalda-Embedding
先加载模型,把填充方向设为左侧,长度上限设为 512 个词元,再用保存好的查询提示词编码查询,用文档提示词编码段落。两组向量都做归一化,然后把两个矩阵相乘,就得到相似度分数。
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("Yaldat/Yalda-Embedding")
model.tokenizer.padding_side = "left"
model.max_seq_length = 512
queries = [
"پایتخت ایران کجاست؟",
"چرا برگ درختان در پاییز تغییر رنگ میدهد؟",
]
documents = [
"تهران پایتخت ایران و یکی از بزرگترین شهرهای این کشور است.",
"در پاییز با کاهش نور خورشید، کلروفیل برگها تجزیه میشود و رنگدانههای دیگر نمایان میشوند.",
"کتابخانهها فضایی برای مطالعه و دسترسی به منابع علمی فراهم میکنند.",
]
query_embeddings = model.encode(
queries,
prompt_name="query",
normalize_embeddings=True,
)
document_embeddings = model.encode(
documents,
prompt_name="document",
normalize_embeddings=True,
)
scores = query_embeddings @ document_embeddings.T
for query, row in zip(queries, scores):
best_index = int(row.argmax())
print(f"Query: {query}")
print(f"Best passage: {documents[best_index]}")
print(f"Similarity: {row[best_index]:.4f}\n")| 工具 | 作用 |
|---|---|
| SentenceTransformer | 按名称加载模型 |
| encode with prompt_name query | 给每条查询加上保存好的搜索指令 |
| encode with prompt_name document | 对段落编码,不加任何指令 |
| normalize_embeddings=True | 让点积等于余弦相似度 |
拿问题 "پایتخت ایران کجاست؟"(意思是伊朗的首都在哪)和三段波斯语段落来试。脚本会给这四段文本编码,然后打印查询、最佳段落和精确到四位小数的相似度分数。讲德黑兰的那段自然是最合适的匹配。
嵌入就是一串数字,代表一段文本的含义。含义相近的两段文本,得到的数字串方向相近,余弦分数告诉你它们有多接近。先跑一遍 How to use it 里的示例,再换成你自己的波斯语问题和段落。
它的底层是一个解码器式 Transformer,有 28 个块,用分组查询注意力。它从左到右读文本,取最后一个非填充词元作为向量,所以示例里把填充方向设成了左侧。训练用了来自 F2LLM-v2-8B 的关系知识蒸馏。它的取舍是体量和覆盖范围:保持 0.6B 的推理体量,在模型卡的八项任务上接近 4B 的 Qwen 模型,但只测试过 512 个词元。
下面的数字来自模型卡自己的评测,请当作它报告的结果来看。
把波斯语文本转成 1,024 维的嵌入向量,用于语义搜索和检索。适合需要把波斯语问题匹配到正确段落的开发者。
由 Yaldat 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Yalda Embedding 把波斯语文本转成 1,024 个数字组成的向量,让搜索按含义匹配,而不是只看字面。它是 Qwen3-Embedding-0.6B 的微调版本,用超过一百万组波斯语查询与对应文档的配对训练而成。训练还用到了更大的教师模型 F2LLM-v2-8B 蒸馏出的知识。
适合谁:适合需要在波斯语文本上做检索的开发者和搜索团队,也适合在波斯语任务上比较嵌入模型的研究人员。
行业 | 谁在用 | 怎么用 | 例子
软件 | 后端开发者 | 给波斯语文档库加上按含义匹配的搜索 | 用户问伊朗的首都在哪,得到讲德黑兰的段落
教育 | 学习平台团队 | 把学生的问题匹配到波斯语学习段落 | 问秋天树叶为什么变色,找到讲叶绿素分解的段落
研究 | 自然语言处理研究者 | 在波斯语任务上把它当作检索基线 | 在模型卡列出的 FaMTEB 检索任务上比较分数
知识管理 | 数据团队 | 把内部波斯语文档一次性嵌入并建好索引,供之后查询 | 预先算好段落向量,放进向量库里检索
如果你的文本不是波斯语,可以跳过它,因为模型卡说明它是为波斯语构建和测试的。
用在哪里:只要能运行 Python 和 sentence-transformers 库,它就能用。
使用场景 | 谁用 | 得到什么
语义搜索 | 应用开发者 | 与每条查询含义最接近的段落
稠密检索 | 搜索团队 | 按余弦相似度排序的段落
模型比较 | 研究人员 | 可以和其他模型对照的波斯语检索分数
如何设置:你需要装有 pip 的 Python,还要给权重留出空间,F32 权重约 2.4 GB。
pip install -U sentence-transformers transformers torch
pip install -U huggingface_hub
hf download Yaldat/Yalda-Embedding
如何使用:先加载模型,把填充方向设为左侧,长度上限设为 512 个词元,再用保存好的查询提示词编码查询,用文档提示词编码段落。两组向量都做归一化,然后把两个矩阵相乘,就得到相似度分数。
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("Yaldat/Yalda-Embedding")
model.tokenizer.padding_side = "left"
model.max_seq_length = 512
queries = [
"پایتخت ایران کجاست؟",
"چرا برگ درختان در پاییز تغییر رنگ میدهد؟",
]
documents = [
"تهران پایتخت ایران و یکی از بزرگترین شهرهای این کشور است.",
"در پاییز با کاهش نور خورشید، کلروفیل برگها تجزیه میشود و رنگدانههای دیگر نمایان میشوند.",
"کتابخانهها فضایی برای مطالعه و دسترسی به منابع علمی فراهم میکنند.",
]
query_embeddings = model.encode(
queries,
prompt_name="query",
normalize_embeddings=True,
)
document_embeddings = model.encode(
documents,
prompt_name="document",
normalize_embeddings=True,
)
scores = query_embeddings @ document_embeddings.T
for query, row in zip(queries, scores):
best_index = int(row.argmax())
print(f"Query: {query}")
print(f"Best passage: {documents[best_index]}")
print(f"Similarity: {row[best_index]:.4f}\n")
工具 | 作用
SentenceTransformer | 按名称加载模型
encode with prompt_name query | 给每条查询加上保存好的搜索指令
encode with prompt_name document | 对段落编码,不加任何指令
normalize_embeddings=True | 让点积等于余弦相似度
示例:拿问题 "پایتخت ایران کجاست؟"(意思是伊朗的首都在哪)和三段波斯语段落来试。脚本会给这四段文本编码,然后打印查询、最佳段落和精确到四位小数的相似度分数。讲德黑兰的那段自然是最合适的匹配。
新手与专家:嵌入就是一串数字,代表一段文本的含义。含义相近的两段文本,得到的数字串方向相近,余弦分数告诉你它们有多接近。先跑一遍 How to use it 里的示例,再换成你自己的波斯语问题和段落。
它的底层是一个解码器式 Transformer,有 28 个块,用分组查询注意力。它从左到右读文本,取最后一个非填充词元作为向量,所以示例里把填充方向设成了左侧。训练用了来自 F2LLM-v2-8B 的关系知识蒸馏。它的取舍是体量和覆盖范围:保持 0.6B 的推理体量,在模型卡的八项任务上接近 4B 的 Qwen 模型,但只测试过 512 个词元。
输入波斯语文本
加上查询或文档提示词
用 28 块的 Transformer 编码
取最后一个词元作为向量
归一化到单位长度
点积得出匹配分数
注意事项:下面的数字来自模型卡自己的评测,请当作它报告的结果来看。
Title: 八项波斯语任务的平均检索分数
Qwen3-Embedding-4B: 0.5563 分
Yalda Embedding: 0.5488 分
F2LLM-v2-0.6B: 0.5063 分
Diba-Embed: 0.4788 分
Qwen3-Embedding-0.6B: 0.4713 分
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download Yaldat/Yalda-Embedding
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 8 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Yalda Embedding 本页 | 204 | 5 | 596M | apache-2.0 | |
| Qwen3-Embedding-0.6B共有 sentence-similarity · sentence-transformers · qwen3 | 8,761,091 | 1,346 | 596M | apache-2.0 | |
| Qwen3-Embedding-4B共有 sentence-similarity · sentence-transformers · qwen3 | 2,426,700 | 351 | 4B | apache-2.0 | |
| Qwen3-Embedding-8B共有 sentence-similarity · sentence-transformers · qwen3 | 2,358,928 | 858 | 7.6B | apache-2.0 | |
| voyage-4-nano共有 sentence-transformers · qwen3 · feature-extraction | 90,118 | 152 | 346M | apache-2.0 | |
| all-MiniLM-L6-v2共有 sentence-similarity · sentence-transformers · feature-extraction | 174,740,184 | 6,104 | 22.7M | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。