Paraphase-2B

Paraphase-2B

一个小型离线模型，把生硬、带 AI 腔的英文邮件草稿改写成平实的文字，同时保留事实。通过 llama.cpp 在 4 到 6 GB 的设备上运行。

由 chadstthomas 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Paraphase-2B 把带 AI 腔的英文邮件草稿改写成更平实的文字，并保留每一个事实。它有 2.5B 参数，是 MiniCPM5-2B 的 QLoRA 微调版本，以 GGUF 形式发布。它完全在你自己的设备上离线运行，没有 API，也不上传任何内容。

适合谁：它适合借助 AI 起草邮件、又希望文字读起来更自然的人，可以在手机、小型笔记本或小型开发板上运行。内存充裕的人可以改用更大的 4B 兄弟版本。

Title: 谁在用
Industry | Who uses it | How they use it | Example
办公 | 写邮件的人 | 把生硬的草稿改写成平实的语言 | 把正式的截止日期提醒改成一条简短的留言
小企业 | 店主 | 离线润色一批消息 | 一次运行改写一叠草稿
软件 | 开发者 | 在应用里调用本地改写器 | 把草稿发给 llama-server 并读取改写结果

用其他语言写作、或处理长文档的人可以跳过它。

用在哪里：

• llama.cpp，通过 llama-server
• 手机、小型笔记本或树莓派级别的小盒子
• Windows、macOS 或 Linux

Title: 主要用途
Use case | Who | What they get back
邮件改写 | 写邮件的人 | 事实不变、更平实的草稿
批量改写 | 小团队 | 离线改写的大量草稿
本地改写服务 | 开发者 | 运行在本地服务器后面的模型

如何设置：

• 你电脑上的 Python，用于下载
• huggingface_hub 包
• 已安装的 llama.cpp
• Q8 文件约需 3.5 GB 空闲内存，Q4 文件约需 2.3 GB

1. 安装 Hugging Face 的 hub 包。
2. 下载 Q8 GGUF 文件，大小 2.68 GB。
3. 用 llama-server 提供服务。
4. 用模型卡里的改写提示词发送你的草稿。不需要思考开关。

pip install -U huggingface_hub
hf download chadstthomas/Paraphase-2B

Title: 各文件的内存需求
File | Size | Free memory | Typical device
Q4_K_M | 1.56 GB | 约 2.3 GB | 4 GB 的手机或笔记本，比较紧张
Q8_0 | 2.68 GB | 约 3.5 GB | 6 GB 的手机或 8 GB 的笔记本

如何使用：用 Q8 文件启动服务，再把模型卡里的改写提示词连同你的草稿一起发送。如果设备只有 4 GB，请用 Q4 文件，并把上下文设为 1024。

llama-server -m paraphase-2b-Q8_0.gguf -c 2048

示例：你发送一条生硬的提醒，说报销单要在某个日期前提交。模型返回一个更短、更平实的版本，日期和规则都不变。模型卡展示了这样的一次改写，并说这是演示，不是基准测试。

新手与专家：如果你是新手，用服务器处理一份简短的草稿，再对比改写前后。检查每个数字和日期是否都保留了下来。

对于专家来说，模型卡在 50 组配对样本上比较了 2B 和 4B 文件。带重试的 2B 得到 48 个有效输出，而 4B 是 50 个，2B 的 AI 腔更少，为 6.3%，4B 为 8.0%。单靠贪心解码只有 82% 有效，重试封装修复了 9 个坏样本中的 7 个。

下载 Q8 GGUF 文件
用 llama-server 提供服务
用改写提示词发送草稿
检查事实，无效则重试

注意事项：

• Retry needed: 2B 只有借助重试封装才能达到最佳有效率。
• Detector tests: 模型卡称它在 AI 检测器上的结果是有启发性的、未被证实，并且不声称保证能躲过检测。
• License: Apache 2.0。
• Cost to run: 来源未提及，全部留在本地。
• Data it reaches: 它从 Hugging Face 下载文件，模型卡说草稿不会被上传。
• Not for: 非英文文本、长文档、法律或医疗建议，或无人看管地发送邮件。

Title: 50 份草稿中有效的数量
2B Q8 greedy: 41 份
2B Q8 with retry: 48 份
4B Q8 with retry: 50 份

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：llama.cpp
• 参数量：2.5B
• Weights: about 1.3 GB at 4-bit (estimate)
• Formats: Safetensors, GGUF
• 最近 30 天下载：135
• 点赞：4
• 许可证：apache-2.0
• 语言：en
• 基于：openbmb/MiniCPM5-2B
• 标签：llama.cpp, safetensors, gguf, humanizer, ai-humanizer, text-humanization, text-rewriting, rewriting, paraphrase, paraphraser, style-transfer, email

链接

• 模型：https://huggingface.co/chadstthomas/Paraphase-2B
• 文件：https://huggingface.co/chadstthomas/Paraphase-2B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download chadstthomas/Paraphase-2B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。