Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
在你自己的机器上运行 Ornith-1.5-122B 文本模型,由 unsloth 制作成 GGUF 文件。这是一个 122B 混合专家模型,面向单块 GPU 上的编程和智能体工作。
Ornith-1.5-122B-GGUF 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download unsloth/Ornith-1.5-122B-GGUF
这是 Ornith-1.5-122B 的 GGUF 副本,Ornith-1.5-122B 是 ornith-ai 推出的文本生成模型,由 unsloth 打包供本地使用。该模型是 122B 的混合专家结构,设计为在单块 GPU 上运行。4-bit 文件约 62.3 GB,许可证是 MIT。
适合想在自己硬件上使用大型开放模型的开发者和团队,用于编程和智能体类任务,而不用把提示词发给托管服务。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 开发者 | 运行大型本地模型来辅助编程 | 一个可离线工作的终端助手 |
| 研究 | AI 实验室和学生 | 在编程基准上把一个开放模型与其他模型比较 | 在同一组任务上的并排测试 |
| IT 运维 | 有私有代码的团队 | 让源码和提示词留在自己的服务器上 | 一个内部代码审查工具 |
如果你的电脑内存很小或没有强力 GPU,可以跳过它,因为光是 4-bit 文件就约 62.3 GB。
| Use case | Who | What they get back |
|---|---|---|
| 编程辅助 | 开发者 | 本地模型写出的代码和修复 |
| 智能体工作 | 智能体工具的开发者 | 一个通过任务与策略自我改进训练出来的模型 |
| 基准比较 | 研究人员 | 可与其他开放模型对照的分数 |
pip install -U huggingface_hub hf download unsloth/Ornith-1.5-122B-GGUF
模型卡指向 Unsloth Desktop 来运行这个模型。在那里加载下载好的 GGUF 文件,然后像使用任何文本模型一样,在聊天窗口输入提示词。
你在 Unsloth Desktop 里加载文件,输入“Write a shell script that renames every file in a folder to lowercase”。模型回复一段脚本,并简短说明每一行的作用。
先运行那两条下载命令,并在 Unsloth Desktop 里打开文件。先试一个小的编程问题,因为这个体量的模型在普通硬件上会很慢。
1.5 版本承接更早的 1.0 版本,后者以 Qwen3.5 和 Gemma4 模型为起点。它的训练循环会自己生成任务、设计自己的解题方式,并通过强化学习从推演中学习。另有一个面向手机的量化版本 Ornith-1.5-122B-Mobile。
在你自己的机器上运行 Ornith-1.5-122B 文本模型,由 unsloth 制作成 GGUF 文件。这是一个 122B 混合专家模型,面向单块 GPU 上的编程和智能体工作。
由 unsloth 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:这是 Ornith-1.5-122B 的 GGUF 副本,Ornith-1.5-122B 是 ornith-ai 推出的文本生成模型,由 unsloth 打包供本地使用。该模型是 122B 的混合专家结构,设计为在单块 GPU 上运行。4-bit 文件约 62.3 GB,许可证是 MIT。
适合谁:适合想在自己硬件上使用大型开放模型的开发者和团队,用于编程和智能体类任务,而不用把提示词发给托管服务。
Industry | Who uses it | How they use it | Example
软件 | 开发者 | 运行大型本地模型来辅助编程 | 一个可离线工作的终端助手
研究 | AI 实验室和学生 | 在编程基准上把一个开放模型与其他模型比较 | 在同一组任务上的并排测试
IT 运维 | 有私有代码的团队 | 让源码和提示词留在自己的服务器上 | 一个内部代码审查工具
如果你的电脑内存很小或没有强力 GPU,可以跳过它,因为光是 4-bit 文件就约 62.3 GB。
用在哪里:
Use case | Who | What they get back
编程辅助 | 开发者 | 本地模型写出的代码和修复
智能体工作 | 智能体工具的开发者 | 一个通过任务与策略自我改进训练出来的模型
基准比较 | 研究人员 | 可与其他开放模型对照的分数
如何设置:
pip install -U huggingface_hub
hf download unsloth/Ornith-1.5-122B-GGUF
如何使用:模型卡指向 Unsloth Desktop 来运行这个模型。在那里加载下载好的 GGUF 文件,然后像使用任何文本模型一样,在聊天窗口输入提示词。
示例:你在 Unsloth Desktop 里加载文件,输入“Write a shell script that renames every file in a folder to lowercase”。模型回复一段脚本,并简短说明每一行的作用。
新手与专家:先运行那两条下载命令,并在 Unsloth Desktop 里打开文件。先试一个小的编程问题,因为这个体量的模型在普通硬件上会很慢。
1.5 版本承接更早的 1.0 版本,后者以 Qwen3.5 和 Gemma4 模型为起点。它的训练循环会自己生成任务、设计自己的解题方式,并通过强化学习从推演中学习。另有一个面向手机的量化版本 Ornith-1.5-122B-Mobile。
下载 GGUF 文件
在 Unsloth Desktop 中打开
输入提示词
模型生成回复
注意事项:
Title: 模型卡表格中的 TerminalBench 2.1 分数
Ornith-1.5-122B: 81.2
Qwen3.8-Flash-Next: 83.4
Qwen3.8 27B dense: 71.9
Nemotron 3.5 Super VL: 66.7
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download unsloth/Ornith-1.5-122B-GGUF
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 4 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Ornith-1.5-122B-GGUF 本页 | 680,483 | 101 | 125B | mit | |
| Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-GGUF共有 qwen3_5_moe · unsloth · gguf | 17,179 | 296 | 34.7B | apache-2.0 | |
| Swift 1.5 Ornith 9B GGUF共有 ornith · gguf · conversational | 3,763 | 26 | 9.2B | apache-2.0 | |
| Qwen3.6-35B-A3B-MTP-GGUF共有 qwen3_5_moe · unsloth · gguf | 2,315,167 | 1,051 | 35.5B | apache-2.0 | |
| Qwen3.6-35B-A3B-GGUF共有 qwen3_5_moe · unsloth · gguf | 1,649,871 | 1,789 | 34.7B | apache-2.0 | |
| Qwen3.5-35B-A3B-GGUF共有 qwen3_5_moe · unsloth · gguf | 314,679 | 885 | 34.7B | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。