Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
作为一个紧凑的开源推理模型,回答数学、编程和科学问题,一次最多能读取 128K 个 token。由 IFM 制作,适合想要数据和代码都公开的小模型的人。
K2-Horizon-0.9B 是一款工具包,属于研究类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download IFM/K2-Horizon-0.9B
K2-Horizon-0.9B 是 IFM 的 K2-Horizon 系列里的小型稠密模型。它是 0.9B 级别的仅解码器模型,针对推理做了调优,上下文窗口为 128K。它的训练数据、训练配方和代码全部公开。
如果你想要一个可以检查的紧凑推理模型,或者想弄清楚一个小模型到底是怎么训练出来的,它就适合你。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 研究 | 语言模型研究者 | 研究一个数据和代码都公开的小模型 | 阅读训练配方,并运行公开的评测代码 |
| 软件 | 开发者 | 用紧凑的推理模型试一试数学和代码问题 | 给它一个编程问题,再检查它的回答 |
| 教育 | 学生和老师 | 通过开放材料学习模型是怎么训练的 | 一步一步跟着公开的训练配方学习 |
需要大得多的模型那种深度的人可以跳过,需要英语和中文以外语言的人也可以跳过。
模型卡节选没有提到任何应用。这些文件可以在任何能读取它们的 Python 项目里加载。
| 用途 | 适合谁 | 得到什么 |
|---|---|---|
| 数学和编程问题 | 学生和开发者 | 一个小型推理模型写出的回答 |
| 长输入 | 有长文本的人 | 回复可以参考最多 131,072 个 token 的上下文 |
你需要带 pip 的 Python,以及放得下权重的空间。
pip install -U huggingface_hub hf download IFM/K2-Horizon-0.9B
模型卡节选没有给出运行命令,所以请使用记录里列出的 transformers 库。加载下载好的模型和分词器,发送提示词,再阅读回复。它的窗口可达 131,072 个 token,模型卡指出是靠 YaRN RoPE 缩放做到的。
问它一个简短的数学或编程问题,比如一道简单的代数题,或者请它解释一个函数。模型卡称这个模型在数学、编程、科学和工具使用的基准上测试过,所以这些就是它设计要做的事。
如果你刚接触,先用上面两条命令下载文件,再用 transformers 加载。先试一个简短的数学问题。Hugging Face 列出的是 1.1B 参数,而模型卡称这个模型为 0.9B 级别。
如果你熟悉这个领域,这是一个稠密的仅解码器模型,用 YaRN RoPE 缩放来支持长上下文。它通过多教师蒸馏训练,数学和代码、STEM、指令遵循各有单独的教师。这么小的模型是用广度换来了小得多的下载体积。
模型卡的对比表把下面这些参数量和其他小模型列在一起。
作为一个紧凑的开源推理模型,回答数学、编程和科学问题,一次最多能读取 128K 个 token。由 IFM 制作,适合想要数据和代码都公开的小模型的人。
由 IFM 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:K2-Horizon-0.9B 是 IFM 的 K2-Horizon 系列里的小型稠密模型。它是 0.9B 级别的仅解码器模型,针对推理做了调优,上下文窗口为 128K。它的训练数据、训练配方和代码全部公开。
适合谁:如果你想要一个可以检查的紧凑推理模型,或者想弄清楚一个小模型到底是怎么训练出来的,它就适合你。
行业 | 谁在用 | 怎么用 | 例子
研究 | 语言模型研究者 | 研究一个数据和代码都公开的小模型 | 阅读训练配方,并运行公开的评测代码
软件 | 开发者 | 用紧凑的推理模型试一试数学和代码问题 | 给它一个编程问题,再检查它的回答
教育 | 学生和老师 | 通过开放材料学习模型是怎么训练的 | 一步一步跟着公开的训练配方学习
需要大得多的模型那种深度的人可以跳过,需要英语和中文以外语言的人也可以跳过。
用在哪里:模型卡节选没有提到任何应用。这些文件可以在任何能读取它们的 Python 项目里加载。
用途 | 适合谁 | 得到什么
数学和编程问题 | 学生和开发者 | 一个小型推理模型写出的回答
长输入 | 有长文本的人 | 回复可以参考最多 131,072 个 token 的上下文
如何设置:你需要带 pip 的 Python,以及放得下权重的空间。
pip install -U huggingface_hub
hf download IFM/K2-Horizon-0.9B
如何使用:模型卡节选没有给出运行命令,所以请使用记录里列出的 transformers 库。加载下载好的模型和分词器,发送提示词,再阅读回复。它的窗口可达 131,072 个 token,模型卡指出是靠 YaRN RoPE 缩放做到的。
示例:问它一个简短的数学或编程问题,比如一道简单的代数题,或者请它解释一个函数。模型卡称这个模型在数学、编程、科学和工具使用的基准上测试过,所以这些就是它设计要做的事。
新手与专家:如果你刚接触,先用上面两条命令下载文件,再用 transformers 加载。先试一个简短的数学问题。Hugging Face 列出的是 1.1B 参数,而模型卡称这个模型为 0.9B 级别。
如果你熟悉这个领域,这是一个稠密的仅解码器模型,用 YaRN RoPE 缩放来支持长上下文。它通过多教师蒸馏训练,数学和代码、STEM、指令遵循各有单独的教师。这么小的模型是用广度换来了小得多的下载体积。
你发送一个提示词
稠密的仅解码器模型读取它,最多 128K 个 token
模型写出推理和答案
注意事项:模型卡的对比表把下面这些参数量和其他小模型列在一起。
Title: 模型卡对比表里的参数量,单位十亿
K2-Horizon-0.9B: 0.9 十亿
Qwen3.5-0.8B: 0.8 十亿
OpenBMB-1B: 1 十亿
Qwen3.5-2B: 2 十亿
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download IFM/K2-Horizon-0.9B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| K2-Horizon-0.9B 本页 | 11,244 | 105 | 1.1B | apache-2.0 | |
| K2-Horizon-3.7B共有 dense · k2-horizon · k2_horizon | 15,489 | 115 | 5.1B | apache-2.0 | |
| qwen-2.5-0.5b-bam-umoe-wikitext2共有 knowledge-distillation · text-generation · safetensors | 278 | 3 | 494M | mit | |
| qwen-2.5-0.5b-block-transformer-hiba-wikitext2共有 knowledge-distillation · text-generation · safetensors | 274 | 3 | 535M | mit | |
| Rostam-S1-4B共有 reasoning · text-generation · transformers | 2,751 | 5 | 4.1B | apache-2.0 | |
| Qwen3.6-35B-A3B Claude 4.7 Opus Reasoning Distilled共有 reasoning · text-generation · transformers | 674 | 206 | 36B | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
AbdomenAtlas · 工具包
在 CT 扫描上检测并勾画 9 个器官的肿瘤,使用从放射学报告中学习的 R-Super 方法训练。这是面向医学影像团队的研究模型,采用非商业许可。
dBenf · 工具包
回答关于卫星图像块的类型化问题,使用 Sentinel-2 的全部 12 个波段,为每个选项返回概率,不生成文字。这是 Qwen3.5-0.8B 的微调版本,适合地球观测研究者。
zimmerk4 · 工具包
用一个在 JAX 物理模拟器里学会的小型策略网络,从头到尾通关游戏 Getting Over It。适合强化学习研究者和好奇的动手爱好者。