Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
一个 2.5B 参数的模型,通过搜索和阅读代码仓库,找出与缺陷报告或问题相关的文件和行范围。通过 ColGrep 在本地运行。
ColGrep-Agent-2B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
brew install lightonai/tap/colgrep && colgrep --install-agent
ColGrep-Agent-2B 是 LightOn 推出的小型代码定位智能体。给它一份缺陷报告、功能请求或关于仓库的问题,它就找出相关的文件和行范围。
它在用 ColGrep 搜索和在不能改动任何东西的终端里打开文件之间交替进行,然后报告精确的位置。它基于 MiniCPM5-2B,目的是替更大的编程智能体承担仓库探索的工作。
适合想快速找到正确代码的开发者和编程智能体构建者,他们更愿意用小型本地模型,而不是把整个仓库发给大模型。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 开发者 | 为缺陷或问题定位代码 | 找出重试是在哪里配置的 |
| AI 工具 | 编程智能体构建者 | 把仓库搜索交给小型助手 | 把代码查找委托出去的大型智能体 |
| 工程团队 | 维护者 | 更快地分诊问题 | 把一个问题指向可能的文件 |
如果你不处理代码仓库,或者想要写代码而不是找代码的模型,可以跳过它。
它通过 ColGrep 命令行在 macOS、Linux 和 Windows 上本地运行,有 GPU 时可加速。它不需要 Python 环境、推理服务器或 API 密钥。
| Use case | Who | What they get back |
|---|---|---|
| 问题定位 | 维护者 | 缺陷报告对应的文件路径和行范围 |
| 关于代码的问答 | 开发者 | 仓库里能回答问题的位置 |
| 委托搜索 | 智能体构建者 | 供更大模型使用的精简结果 |
你只需安装一次 ColGrep,让它去获取模型。install-agent 这一步会下载约 2.5 GB 的 Q8_0 GGUF 文件,检查它能否加载,并准备提示词缓存。
brew install lightonai/tap/colgrep && colgrep --install-agent
cargo install colgrep && colgrep --install-agent
cd /path/to/project colgrep init
用 colgrep --agent 以自然语言提问。第一次索引之后,搜索会发现改动的文件,并在回答前更新索引。结果以路径、起始行和结束行的形式给出。
colgrep --agent "where does the agent decide which GPU backend llama.cpp uses"
| Tool | What it does |
|---|---|
| colgrep --install-agent | 下载并准备默认模型 |
| colgrep init | 为当前仓库建立索引 |
| colgrep --agent | 对一个问题运行智能体并返回代码位置 |
在 ColGrep 自己的代码上,模型卡问的是智能体在哪里决定 llama.cpp 使用哪个 GPU 后端。在所展示的 M3 Pro 会话里,智能体用了 9 轮和 2 次搜索,在 21.7 秒内返回了 5 个位置。
如果你是新手,安装 ColGrep,给一个小项目建索引,问一个具体的问题。答案是一份文件和行号的列表,你可以自己打开查看。
如果你熟悉这个领域:这个智能体用强化学习训练,学会用 ColGrep 搜索并通过只读终端读文件。它在搜索和阅读之间循环,然后调用 finish 给出最终位置,这与更大智能体的工具循环很契合。
输出遵循路径、起始行和结束行的格式,所以脚本和其他智能体可以直接使用。模型卡展示的示例会话为了便于阅读省略了工具结果。
一个 2.5B 参数的模型,通过搜索和阅读代码仓库,找出与缺陷报告或问题相关的文件和行范围。通过 ColGrep 在本地运行。
由 lightonai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:ColGrep-Agent-2B 是 LightOn 推出的小型代码定位智能体。给它一份缺陷报告、功能请求或关于仓库的问题,它就找出相关的文件和行范围。
它在用 ColGrep 搜索和在不能改动任何东西的终端里打开文件之间交替进行,然后报告精确的位置。它基于 MiniCPM5-2B,目的是替更大的编程智能体承担仓库探索的工作。
适合谁:适合想快速找到正确代码的开发者和编程智能体构建者,他们更愿意用小型本地模型,而不是把整个仓库发给大模型。
Industry | Who uses it | How they use it | Example
软件 | 开发者 | 为缺陷或问题定位代码 | 找出重试是在哪里配置的
AI 工具 | 编程智能体构建者 | 把仓库搜索交给小型助手 | 把代码查找委托出去的大型智能体
工程团队 | 维护者 | 更快地分诊问题 | 把一个问题指向可能的文件
如果你不处理代码仓库,或者想要写代码而不是找代码的模型,可以跳过它。
用在哪里:它通过 ColGrep 命令行在 macOS、Linux 和 Windows 上本地运行,有 GPU 时可加速。它不需要 Python 环境、推理服务器或 API 密钥。
Use case | Who | What they get back
问题定位 | 维护者 | 缺陷报告对应的文件路径和行范围
关于代码的问答 | 开发者 | 仓库里能回答问题的位置
委托搜索 | 智能体构建者 | 供更大模型使用的精简结果
如何设置:你只需安装一次 ColGrep,让它去获取模型。install-agent 这一步会下载约 2.5 GB 的 Q8_0 GGUF 文件,检查它能否加载,并准备提示词缓存。
brew install lightonai/tap/colgrep && colgrep --install-agent
cargo install colgrep && colgrep --install-agent
cd /path/to/project
colgrep init
如何使用:用 colgrep --agent 以自然语言提问。第一次索引之后,搜索会发现改动的文件,并在回答前更新索引。结果以路径、起始行和结束行的形式给出。
colgrep --agent "where does the agent decide which GPU backend llama.cpp uses"
Tool | What it does
colgrep --install-agent | 下载并准备默认模型
colgrep init | 为当前仓库建立索引
colgrep --agent | 对一个问题运行智能体并返回代码位置
示例:在 ColGrep 自己的代码上,模型卡问的是智能体在哪里决定 llama.cpp 使用哪个 GPU 后端。在所展示的 M3 Pro 会话里,智能体用了 9 轮和 2 次搜索,在 21.7 秒内返回了 5 个位置。
新手与专家:如果你是新手,安装 ColGrep,给一个小项目建索引,问一个具体的问题。答案是一份文件和行号的列表,你可以自己打开查看。
如果你熟悉这个领域:这个智能体用强化学习训练,学会用 ColGrep 搜索并通过只读终端读文件。它在搜索和阅读之间循环,然后调用 finish 给出最终位置,这与更大智能体的工具循环很契合。
用 colgrep init 为仓库建索引
用 colgrep --agent 提问
智能体搜索并阅读文件
智能体以路径和行范围结束
注意事项:输出遵循路径、起始行和结束行的格式,所以脚本和其他智能体可以直接使用。模型卡展示的示例会话为了便于阅读省略了工具结果。
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download lightonai/colgrep-agent-2B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| ColGrep-Agent-2B 本页 | 1,141 | 38 | 2.5B | apache-2.0 | |
| Sabi-Noema共有 reinforcement-learning · tool-use · text-generation | 1,810 | 55 | 27.4B | apache-2.0 | |
| Terminal-RSI-27B共有 reinforcement-learning · code · text-generation | 2,536 | 33 | 27.8B | apache-2.0 | |
| Maincoder-1B共有 reinforcement-learning · code · text-generation | 451 | 101 | 1B | apache-2.0 | |
| mSlideOn共有 code-search · code · safetensors | 706 | 16 | 339M | apache-2.0 | |
| Slonik共有 reinforcement-learning · code · text-generation | 0 | 5 | — | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。