Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版，含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
新上架
概览
通过调整内部权重来修改本地语言模型，从而移除拒绝回复、减少冗余内容或改变风格表现。专为使用自定义 LLM 的开发者和爱好者打造。
Heretic 是一款 GitHub 上的开源项目，属于开发类，由 Mindket 上架。可免费获取。当前为第 1 版，最近更新于 。按它的 README 从 GitHub 安装。Mindket 的设置说明可在你的 Mindket 账户获取，以 zip 压缩包下载。
速览
- 你需要
- Python 3.10 或更高版本
- PyTorch 2.6 或更高版本
- 兼容的硬件
- 先运行
pip install -U heretic-llm heretic Qwen/Qwen3-4B-Instruct-2507
关于
它是什么
Heretic 通过调整语言模型的内部权重来引导其行为。它无需训练即可完成这些更改，并支持移除拒绝回复、减少冗余或调整情感倾向等任务。
适合谁
适合希望在自有硬件上修改模型的开发者和爱好者。
用在哪里
在你的本地计算机上使用，用于处理本地运行的模型。
如何设置
- Python 3.10 或更高版本
- PyTorch 2.6 或更高版本
- 兼容的硬件
- 准备你的 Python 环境。
- 通过终端安装此包。
pip install -U heretic-llm heretic Qwen/Qwen3-4B-Instruct-2507
如何使用
在终端运行命令来处理模型。默认情况下，它会解除审查并抑制拒绝回复。你可以指定配置文件来更改其目标。
新手与专家
你无需深入了解模型的内部工作原理即可使用。你可以在几秒钟内移除第一个模型的审查限制。如果你是新手，建议先在稠密模型（dense model）上运行，以观察它如何改变输出结果。
注意事项
- 支持稠密模型、多模态模型、MoE 和混合模型。
- 使用 bitsandbytes 执行实时的 4-bit 量化。
- 包含可重复性功能，可通过清单（manifest）重建模型。
- 基于 GNU Affero 通用公共许可证授权。
README 和文件
Heretic
通过调整内部权重来修改本地语言模型，从而移除拒绝回复、减少冗余内容或改变风格表现。专为使用自定义 LLM 的开发者和爱好者打造。
由 GitHub 上的 p-e-w 开发。这些说明由 Minda 根据其 README 整理；项目的原始文件和许可证请见其仓库。
About
What it is: Heretic 通过调整语言模型的内部权重来引导其行为。它无需训练即可完成这些更改，并支持移除拒绝回复、减少冗余或调整情感倾向等任务。
Who it suits: 适合希望在自有硬件上修改模型的开发者和爱好者。
Where to use it: 在你的本地计算机上使用，用于处理本地运行的模型。
How to set it up:
- Python 3.10 或更高版本
- PyTorch 2.6 或更高版本
- 兼容的硬件
- 准备你的 Python 环境。
- 通过终端安装此包。
pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507How to use it: 在终端运行命令来处理模型。默认情况下，它会解除审查并抑制拒绝回复。你可以指定配置文件来更改其目标。
For newcomers and experts: 你无需深入了解模型的内部工作原理即可使用。你可以在几秒钟内移除第一个模型的审查限制。如果你是新手，建议先在稠密模型（dense model）上运行，以观察它如何改变输出结果。
Good to know:
- 支持稠密模型、多模态模型、MoE 和混合模型。
- 使用 bitsandbytes 执行实时的 4-bit 量化。
- 包含可重复性功能，可通过清单（manifest）重建模型。
- 基于 GNU Affero 通用公共许可证授权。
On GitHub, 4 November 2026
- Stars: 38,841 (当日 701)
- Forks: 4,387
- Watching: 199
- Open issues and pull requests: 62
- Language: Python
- License: AGPL-3.0
- Topics: abliteration, anti-censorship, anticensorship, censorship, censorship-resistance, llm, transformer
- Trending: GitHub 趋势榜当日排名第 2 (2026年11月4日)
Links
- Code: https://github.com/p-e-w/heretic
- Website: https://heretic-project.org/
- Releases: https://github.com/p-e-w/heretic/releases
- Issues: https://github.com/p-e-w/heretic/issues
- Star history: https://www.star-history.com/#p-e-w/heretic&Date
Get the code
git clone https://github.com/p-e-w/heretic.git随后按照其 README 中的说明进行设置。此工具包中的任何内容均无法独立运行。
README.md 2 KB
更新内容
评价
大家怎么说
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论，来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的，也未经核实，点开即可在原帖处阅读。
razsterHeretic 2.0 Released: Training-free language model modificationhttps://github.com/p-e-w/ -p-e-w- Posted this from Reddit. "Dear fellow Llamas, after almost 5 months of development, I finally have the pleasure of announcing to you the immediate availability of the biggest Heretic release ever, Heretic 2.0: https://github.com/p-e-w/heretic Heretic is the…22 分 · 4 条回复@ai-trend-to-know.bsky.socialp-e-w/heretic 💻 Python #Python #OpenSource #AIAgents #GitHub 🔗 trendtoknow.com/p-e-w/heretic4 赞@venv_kHeretic 🧠 An open-source tool for removing LLM censorship without additional training. It uses abliteration to modify model weights and Optuna to optimize the process. https://t.co/5u8vFDOjWy https://t.co/YLc1qsOZFc #AI #LLM #OpenSourcefreakynitAstra can read and write weights to improve QwenThis was the first thing that came to my mind as well. For the unknowns, this is a pretty/popular project for the same task: https://github.com/p-e-w/heretic You can search huggingface for models with word "heretic" in them... https://huggingface.co/models?sort=created&search=hereticHenrique OlifiersI strongly suggest we start preparing for the worst. github.com/p-e-w/heretic3 赞 · 1 条回复@JubayarAdnan38,000+ devs starred this free tool 😳 Heretic removes censorship from AI models you run at home. - No training needed - Works on a gaming PC - Can also cut "slop" and fake praise - 1000s of models already made with it Link in the first comment 👇 https://t.co/uESFoVdSNewalrus01Memdoor: A team of 5 Qwen3.8-27B models beats Fable 5 on LiveCodeBench HardYes, it'll likely just result in some people standing up a more dedicated purpose community hosting site of abliterated/uncensored open weight GGUF files. In a theoretical scenario where HF bans abliterated/uncensored models I could very well see the same people who are producing those now simply…Mark IgraAI "alignment" will not prevent bad actors from using open models for bad acts: "Heretic is a tool that removes censorship (aka "safety alignment") from transformer-based language models...anyone who knows how to run a command-line program can use Heretic" github.com/p-e-w/heretic4 赞@VT_zero1Top AI repos on GitHub today | Wed, Nov 4 • vercel-labs/agent-desktop: A command line tool that lets an AI agent use your computer. It can click around and read what is on screen. https://t.co/vNU6WOq8b3 • Donchitos/Claude-Code-Game-Studios: Turns Claude Code into a small game studio, with 49…Retro_DevClaude Opus 5.5> Distillation attacks, in which attackers use thousands of fake accounts to extract a model’s capabilities at industrial scale, create safety and national security risks. Distillation allows bad actors to create highly capable models without the safeguards we build into Claude. Our September 2026…KeithThere is a fully automated tool that does it. People have weights with the refusal stripped out published within hours of any new model drop. Even w/ stock weights, you can modify your model running code to suppress that activation vector. Barn door fully off the hinges. github.com/p-e-w/heretic3 赞@JkwuRmsl试了下 heretic 不训练直接改本地模型行为 去审查 压 AI 味 治谄媚 GitHub 三万八千星 你更信这种拧权重 还是重训一版 https://t.co/5SFs7aubBw https://t.co/rm4ce3ESHn
Mindket 的更多商品
查看 Mindket 的全部商品DeepSeek-V4.1-Flash-1017 EXL3 2.9 bpw
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017，这是一份 196 GiB 的副本，适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
新上架
MusicGen Small
facebook · 工具包
根据文字描述或音频提示生成短音乐片段，是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
新上架
开发类的相似商品
查看开发类的全部商品Lexnet
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络，为 C 源代码的每个字符打上语法高亮标签，通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
新上架
FLUX.2 Klein LoRA Studio
prithivMLmods · 工具包
在浏览器或你自己的电脑上，用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
新上架
anaksor-ocr
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字，用一个检测器找文本行，再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。
新上架