Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
在浏览器里为文档排序、跨语言比较句子,并用文字搜索你自己的图片,你输入或上传的内容不会离开你的设备。适合探索嵌入的人。
EmbeddingGemma 2 in the Browser 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download Caspivs/embeddinggemma-2-demo --repo-type space --local-dir embeddinggemma-2-demo cd embeddinggemma-2-demo
这个 Space 在你的浏览器里运行一个嵌入模型。它是 Google 的 EmbeddingGemma 2 的演示,使用 4 位的 ONNX 权重和 Transformers.js。它提供语义搜索、句子相似度矩阵和文字搜图。你输入或上传的所有内容都留在你的设备上。
它适合想不借助服务器就看看嵌入是怎么回事的开发者和研究者,也适合想私下搜索自己的文档或图片的人。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 开发者 | 试用语义搜索,看嵌入模型在一个页面里运行 | 针对一个问题给几篇文档排序 |
| 研究 | 语言研究者 | 用相似度矩阵跨语言比较句子 | 检查一对译文有多接近 |
| 内容 | 编辑和档案管理员 | 针对文字查询给自己的图片排序 | 找出符合一句简短描述的图片 |
| 教育 | 机器学习的学生 | 切换嵌入的大小,观察效果 | 比较 768 维和 128 维的结果 |
如果你的浏览器没有 WebGPU,可以跳过它,因为模型需要它才能运行。
| 使用场景 | 谁用 | 能得到什么 |
|---|---|---|
| 语义搜索 | 有文档的任何人 | 针对你的查询排好序的文档 |
| 相似度矩阵 | 语言学习者和研究者 | 跨语言的句子两两相似度 |
| 文字搜图 | 创作者和档案管理员 | 针对文字查询排好序的你自己的图片或一组示例图片 |
使用托管页面只需要一个支持 WebGPU 的浏览器。下载副本还需要 Python 和 pip。
pip install -U huggingface_hub hf download Caspivs/embeddinggemma-2-demo --repo-type space --local-dir embeddinggemma-2-demo cd embeddinggemma-2-demo
打开页面,等模型加载完成。选一个标签页,添加你的文字或图片,然后读排序结果或矩阵。每个标签页都有一个嵌入大小的选择器,可选 768、512、256 和 128。
在语义搜索标签页里,你还要选一个任务,它会加上对应的指令前缀。可选的有搜索、问答、事实核查和代码搜索。
| 工具 | 作用 |
|---|---|
| 语义搜索 | 针对你的查询给文档排序 |
| 相似度矩阵 | 显示句子两两之间的余弦相似度 |
| 文字搜图 | 针对文字查询给图片排序 |
| 大小选择器 | 把嵌入截断并重新归一化到 768、512、256 或 128 |
你打开语义搜索标签页,添加几篇简短的文档。你输入一个问题,选择问答任务。页面会按文档与你的问题有多接近来给它们排序。
如果你是新手,打开相似度矩阵标签页,输入几句简短的话,其中有些用不同的语言。看看哪些句对得分接近。然后再试其他标签页。
如果你熟悉这个领域,嵌入来自在 ONNX Runtime Web 上用 WebGPU 运行的量化模型。大小选择器会截断向量并重新归一化,做法和模型卡推荐的一样。搜索任务会加上指令前缀。量化模型的算子只在 WebGPU 上可用,所以需要支持 WebGPU 的浏览器。
第一次访问要下载不少数据,之后的访问从浏览器缓存里加载。
在浏览器里为文档排序、跨语言比较句子,并用文字搜索你自己的图片,你输入或上传的内容不会离开你的设备。适合探索嵌入的人。
由 Caspivs 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的,应用自己的文件和许可证在 Hugging Face 上。
它是什么:这个 Space 在你的浏览器里运行一个嵌入模型。它是 Google 的 EmbeddingGemma 2 的演示,使用 4 位的 ONNX 权重和 Transformers.js。它提供语义搜索、句子相似度矩阵和文字搜图。你输入或上传的所有内容都留在你的设备上。
适合谁:它适合想不借助服务器就看看嵌入是怎么回事的开发者和研究者,也适合想私下搜索自己的文档或图片的人。
行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 试用语义搜索,看嵌入模型在一个页面里运行 | 针对一个问题给几篇文档排序
研究 | 语言研究者 | 用相似度矩阵跨语言比较句子 | 检查一对译文有多接近
内容 | 编辑和档案管理员 | 针对文字查询给自己的图片排序 | 找出符合一句简短描述的图片
教育 | 机器学习的学生 | 切换嵌入的大小,观察效果 | 比较 768 维和 128 维的结果
如果你的浏览器没有 WebGPU,可以跳过它,因为模型需要它才能运行。
用在哪里:
使用场景 | 谁用 | 能得到什么
语义搜索 | 有文档的任何人 | 针对你的查询排好序的文档
相似度矩阵 | 语言学习者和研究者 | 跨语言的句子两两相似度
文字搜图 | 创作者和档案管理员 | 针对文字查询排好序的你自己的图片或一组示例图片
如何设置:使用托管页面只需要一个支持 WebGPU 的浏览器。下载副本还需要 Python 和 pip。
pip install -U huggingface_hub
hf download Caspivs/embeddinggemma-2-demo --repo-type space --local-dir embeddinggemma-2-demo
cd embeddinggemma-2-demo
如何使用:打开页面,等模型加载完成。选一个标签页,添加你的文字或图片,然后读排序结果或矩阵。每个标签页都有一个嵌入大小的选择器,可选 768、512、256 和 128。
在语义搜索标签页里,你还要选一个任务,它会加上对应的指令前缀。可选的有搜索、问答、事实核查和代码搜索。
工具 | 作用
语义搜索 | 针对你的查询给文档排序
相似度矩阵 | 显示句子两两之间的余弦相似度
文字搜图 | 针对文字查询给图片排序
大小选择器 | 把嵌入截断并重新归一化到 768、512、256 或 128
示例:你打开语义搜索标签页,添加几篇简短的文档。你输入一个问题,选择问答任务。页面会按文档与你的问题有多接近来给它们排序。
新手与专家:如果你是新手,打开相似度矩阵标签页,输入几句简短的话,其中有些用不同的语言。看看哪些句对得分接近。然后再试其他标签页。
如果你熟悉这个领域,嵌入来自在 ONNX Runtime Web 上用 WebGPU 运行的量化模型。大小选择器会截断向量并重新归一化,做法和模型卡推荐的一样。搜索任务会加上指令前缀。量化模型的算子只在 WebGPU 上可用,所以需要支持 WebGPU 的浏览器。
在支持 WebGPU 的浏览器里打开页面
4 位模型下载并被缓存
你选一个标签页,添加文字或图片
模型在你的设备上对它们做嵌入
显示排序或相似度
注意事项:第一次访问要下载不少数据,之后的访问从浏览器缓存里加载。
Title: 首次下载
模型文件: 210 MB
图像编码器: 110 MB
在浏览器里打开这个 Space,或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face Space。
| 产品 | 点赞 | 构建方式 | 许可证 | 最近更新 |
|---|---|---|---|---|
| EmbeddingGemma 2 in the Browser 本页 | 1 | static | apache-2.0 | |
| Spark-X2.6-1.7B WebGPU共有 webgpu · static | 1 | static | apache-2.0 | |
| InferenceSupport共有 static | 764 | static | afl-3.0 | |
| Huggy共有 static | 463 | static | cc-by-nc-sa-4.0 | |
| Z-Image Lookalike LoRA Index共有 static | 189 | static | apache-2.0 | |
| Granite Docling 258M WebGPU共有 static | 163 | static | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。