Sweep Next-Edit 1.5B (GGUF)

Sweep Next-Edit 1.5B (GGUF)

根据当前打开的文件、最近的改动和当前状态预测你的下一处代码修改，以 1.5B 的 Q8_0 GGUF 模型在本地运行。适合想在自己笔记本上获得编辑自动补全的开发者。

由 sweepai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Sweep Next-Edit 1.5B 是一个用于下一处编辑自动补全的小模型，以 Q8_0 GGUF 文件的形式提供。它不是补全你正在输入的词，而是猜你接下来会做哪一处修改。模型卡说它在笔记本上用推测解码时不到 500 ms 就能运行，并且在下一处编辑基准上胜过大四倍以上的模型。

适合谁：它适合想让编辑建议在自己机器上运行的开发者，也适合围绕本地模型构建编辑器工具的人。

Industry | Who uses it | How they use it | Example
软件开发 | 个人开发者 | 写代码时在本地运行下一处编辑建议 | 重命名变量后看到可能的后续修改
开发者工具 | 编辑器插件作者 | 围绕 GGUF 模型构建本地建议功能 | 把模型接入编辑器扩展
人工智能研究 | 代码模型研究人员 | 研究一个为编辑预测调整过的小模型 | 用你自己记录的编辑来测试它

如果你想要通用的聊天模型，可以跳过它，因为这个模型只预测编辑。

用在哪里：

• 使用 llama-cpp-python 的 Python 脚本，就像模型卡的用法所示
• 你的笔记本，运行 Windows、macOS 或 Linux 并装有 Python
• 通过你自己构建的工具接入编辑器，因为模型卡链接的一个讨论串谈到了 VSCode、Neovim 和 Emacs

Use case | Who | What they get back
下一处编辑自动补全 | 开发者 | 对你代码下一处修改的预测
本地建议 | 重视隐私的团队 | 在你自己机器上做出的预测
编辑器集成 | 工具开发者 | 一个可以嵌入编辑器工作流的小模型

如何设置：

• Python 和 uv 安装器
• huggingface_hub 包
• 仓库里的模型文件和 run_model.py 脚本
• llama-cpp-python，用来运行 GGUF 文件

1. 安装 Hugging Face 的 hub 包。
2. 下载仓库文件，里面有模型文件和 run_model.py。
3. 用 uv 安装 llama-cpp-python 和 huggingface_hub。
4. 运行脚本。

pip install -U huggingface_hub
hf download sweepai/sweep-next-edit-1.5B

uv pip install llama-cpp-python huggingface_hub
python run_model.py

如何使用：你用 Python 运行模型卡里的脚本。它根据你的文件、最近的改动和当前状态构建模型的提示词，然后向模型要下一处修改。

Tool | What it does
run_model.py | 模型卡里构建提示词并运行模型的完整示例
llama-cpp-python | 加载并运行 GGUF 模型
huggingface_hub | 获取模型文件

示例：你打开了一个文件，刚改了一行。脚本把这个文件、你最近的 diff 和当前状态打包成模型的提示词格式。模型返回它预计你接下来要做的修改。

新手与专家：下一处编辑自动补全会建议你可能做的整处修改，而不只是下一个词。上手时，先下载文件，装好软件包，再运行 run_model.py。

如果你熟悉这个领域：这是一个基于 Qwen2.5-Coder 的 1.5B 模型，量化为 Q8_0，通过 llama.cpp 的绑定运行。它的上下文长度是 8192 个 token。它只接受一种固定的提示词布局，所以你必须紧跟示例脚本。

收集你的文件和最近的 diff
把它们打包成模型的提示词格式
模型通过 llama-cpp-python 在本地运行
它返回预测的下一处修改

注意事项：

• 格式：GGUF，Q8_0 量化
• 上下文长度：8192 个 token
• 基础模型：Qwen2.5-Coder
• 速度和基准的说法来自作者，模型卡没有给出测试数字
• License: Apache 2.0
• Cost to run: 没有提到费用，在你自己的笔记本上运行
• Data it reaches: 你交给它的代码文件和 diff，以及你从 Hugging Face 下载的文件
• Not for: 自由聊天，因为它需要固定的提示词布局

Hugging Face 上的数据（2026年11月13日）

• 参数量：1.4B
• Weights: about 723 MB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：1,142
• 点赞：341
• 许可证：apache-2.0
• Quantized versions: 2
• Fine-tunes: 1
• 标签：gguf, code, autocomplete, next-edit

链接

• 模型：https://huggingface.co/sweepai/sweep-next-edit-1.5B
• 文件：https://huggingface.co/sweepai/sweep-next-edit-1.5B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download sweepai/sweep-next-edit-1.5B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。