Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
作为一个上下文窗口达 512K token 的小型开源模型,处理编程、推理和智能体类任务。由 IFM 制作,适合想要公开的训练数据、代码和训练中途检查点的人。
K2-Horizon-3.7B 是一款工具包,属于研究类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download IFM/K2-Horizon-3.7B
K2-Horizon-3.7B 是 IFM 的小型稠密语言模型,是其 K2-Horizon 系列中的一员。它读入文本并写出文本,核心参数为 3.7B,上下文窗口为 512K。团队把它的训练数据、训练配方、代码和评测资源全部公开了。
如果你想要一个用于编程和推理工作的小型开源模型,或者想研究模型的能力在训练过程中是怎么形成的,它就适合你。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 研究 | 语言模型研究者 | 借助公开的检查点研究能力在训练中如何变化 | 把早期检查点的回答和最终模型的回答做对比 |
| 软件 | 开发者 | 在编程和推理任务上试用一个小模型 | 给它一小段函数,问它是做什么的 |
| 教育 | 学生和老师 | 向一个数据和代码都开放的模型学习 | 跟着公开的训练配方和评测资源学习 |
需要超大模型的人可以跳过,需要英语以外语言的人也可以跳过。
模型卡节选没有提到任何应用。这些文件可以在任何能读取它们的 Python 项目里加载。
| 用途 | 适合谁 | 得到什么 |
|---|---|---|
| 编程和推理问题 | 开发者和学生 | 一个小型稠密模型写出的回答 |
| 超长输入 | 有大文档的人 | 回复可以参考 524,288 个 token 的窗口 |
你需要带 pip 的 Python,以及放得下权重的空间。
pip install -U huggingface_hub hf download IFM/K2-Horizon-3.7B
模型卡节选没有给出运行命令,所以请使用记录里列出的 transformers 库。加载下载好的模型和分词器,发送提示词,再阅读回复。524,288 个 token 的窗口从训练中段起就是内置的。
贴进一小段函数,让模型解释它做了什么,以及哪里可能出错。模型卡称它在智能体、编程和推理基准上测试过,所以问一个编程问题正符合它的设计目的。
如果你刚接触,先用上面两条命令下载文件,再用 transformers 加载。先试一个简短的编程问题。Hugging Face 列出的是 5.1B 参数,而模型卡描述的是 3.7B 的核心。
如果你熟悉这个领域,这是一个带有长原生上下文的稠密仅解码器模型。团队还发布了训练中途的检查点,所以你能看到能力随时间的变化,而不是只看到最终模型。
模型卡的对比表把下面这些参数量和其他开源稠密模型列在一起。
作为一个上下文窗口达 512K token 的小型开源模型,处理编程、推理和智能体类任务。由 IFM 制作,适合想要公开的训练数据、代码和训练中途检查点的人。
由 IFM 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:K2-Horizon-3.7B 是 IFM 的小型稠密语言模型,是其 K2-Horizon 系列中的一员。它读入文本并写出文本,核心参数为 3.7B,上下文窗口为 512K。团队把它的训练数据、训练配方、代码和评测资源全部公开了。
适合谁:如果你想要一个用于编程和推理工作的小型开源模型,或者想研究模型的能力在训练过程中是怎么形成的,它就适合你。
行业 | 谁在用 | 怎么用 | 例子
研究 | 语言模型研究者 | 借助公开的检查点研究能力在训练中如何变化 | 把早期检查点的回答和最终模型的回答做对比
软件 | 开发者 | 在编程和推理任务上试用一个小模型 | 给它一小段函数,问它是做什么的
教育 | 学生和老师 | 向一个数据和代码都开放的模型学习 | 跟着公开的训练配方和评测资源学习
需要超大模型的人可以跳过,需要英语以外语言的人也可以跳过。
用在哪里:模型卡节选没有提到任何应用。这些文件可以在任何能读取它们的 Python 项目里加载。
用途 | 适合谁 | 得到什么
编程和推理问题 | 开发者和学生 | 一个小型稠密模型写出的回答
超长输入 | 有大文档的人 | 回复可以参考 524,288 个 token 的窗口
如何设置:你需要带 pip 的 Python,以及放得下权重的空间。
pip install -U huggingface_hub
hf download IFM/K2-Horizon-3.7B
如何使用:模型卡节选没有给出运行命令,所以请使用记录里列出的 transformers 库。加载下载好的模型和分词器,发送提示词,再阅读回复。524,288 个 token 的窗口从训练中段起就是内置的。
示例:贴进一小段函数,让模型解释它做了什么,以及哪里可能出错。模型卡称它在智能体、编程和推理基准上测试过,所以问一个编程问题正符合它的设计目的。
新手与专家:如果你刚接触,先用上面两条命令下载文件,再用 transformers 加载。先试一个简短的编程问题。Hugging Face 列出的是 5.1B 参数,而模型卡描述的是 3.7B 的核心。
如果你熟悉这个领域,这是一个带有长原生上下文的稠密仅解码器模型。团队还发布了训练中途的检查点,所以你能看到能力随时间的变化,而不是只看到最终模型。
你发送一个提示词
稠密的仅解码器模型读取它,最多 512K 个 token
模型写出它的回答
注意事项:模型卡的对比表把下面这些参数量和其他开源稠密模型列在一起。
Title: 模型卡对比表里的参数量,单位十亿
K2-Horizon-3.7B: 3.7 十亿
Qwen3.5-4B: 4 十亿
G9v3-3B: 3 十亿
Granite 4.2-3B: 3 十亿
Nemotron 3 Nano-4B: 4 十亿
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download IFM/K2-Horizon-3.7B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| K2-Horizon-3.7B 本页 | 15,489 | 115 | 5.1B | apache-2.0 | |
| K2-Horizon-0.9B共有 dense · k2-horizon · k2_horizon | 11,244 | 105 | 1.1B | apache-2.0 | |
| t0-gamma共有 open-weights · safetensors | 61,908 | 32 | 256M | apache-2.0 | |
| VLX-Seek-1.5-10B共有 text-generation · conversational · transformers | 137,772 | 39 | 10B | apache-2.0 | |
| Sage-A1.5共有 text-generation · conversational · transformers | 22,224 | 404 | 36B | apache-2.0 | |
| Carbon-X共有 text-generation · conversational · transformers | 5,018 | 303 | 14.8B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
AbdomenAtlas · 工具包
在 CT 扫描上检测并勾画 9 个器官的肿瘤,使用从放射学报告中学习的 R-Super 方法训练。这是面向医学影像团队的研究模型,采用非商业许可。
dBenf · 工具包
回答关于卫星图像块的类型化问题,使用 Sentinel-2 的全部 12 个波段,为每个选项返回概率,不生成文字。这是 Qwen3.5-0.8B 的微调版本,适合地球观测研究者。
zimmerk4 · 工具包
用一个在 JAX 物理模拟器里学会的小型策略网络,从头到尾通关游戏 Getting Over It。适合强化学习研究者和好奇的动手爱好者。