Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
把日常消息和邮件写成一条可以直接发送的文字,而不是一堆选项。基于 Qwen3.8-27B 的 27B 模型,非商业使用免费,适合想要听起来像真人写作的人。
Hemmingway-1 是一款工具包,属于写作类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download HemmingwayAI/Hemmingway-1
Hemmingway-1 是基于 Qwen3.8-27B 的 27B 文本模型,面向人们每天都在做的写作,比如消息、邮件和写给同事的尴尬便条。很多模型会回答一堆选项加一段解释,而它直接给出文字本身。权重开放,非商业使用免费,商业使用需要另行达成协议。
它适合经常写短消息的人,也适合想在开放模型上做写作助手的开发者。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 个人和办公写作 | 要发一条尴尬消息的人 | 请它写出可以直接发送的文字 | 请它写一条给房东、说明锅炉坏了的消息 |
| 软件开发 | 开发写作助手的开发者 | 用 vLLM 部署模型 | 以 262,144 个 token 的上下文启动服务 |
| 研究 | 比较写作模型的人 | 阅读作者公布的基准测试结果 | 看看它在公开的 EQ-Bench 4 上的表现 |
如果你需要无需协议的商业使用,或者要医疗、法律、金钱方面的建议,可以略过它。
| 用途 | 谁用 | 能得到什么 |
|---|---|---|
| 日常消息 | 任何人 | 一条可以直接发的文字,前后没有选项或评论 |
| 工作邮件 | 办公室职员 | 尴尬便条和请求的草稿 |
| 难开口的请求 | 总在反复改写的人 | 一条试图说服对方的消息 |
你需要先准备:
pip install -U huggingface_hub hf download HemmingwayAI/Hemmingway-1
启动一个 vLLM 服务器,或者在 Python 里加载模型,给它发一条聊天消息。模型卡自己的示例用的是 Altworld 那份权重。
vllm serve Altworld/Hemmingway-1 --max-model-len 262144
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "Altworld/Hemmingway-1"
tok = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto", dtype="auto")
messages = [{"role": "user", "content": "Write the text I send my landlord about the broken boiler."}]
ids = tok.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(ids, max_new_tokens=512)
print(tok.decode(out[0][ids.shape[-1]:], skip_special_tokens=True))| 工具 | 作用 |
|---|---|
| vllm serve | 以 262,144 个 token 的上下文为模型启动服务 |
| transformers 脚本 | 加载模型,应用聊天模板并打印回复 |
你请它写一条给房东、说明锅炉坏了的消息。模型直接给出这条消息,可以直接发送,而不是三个选项再加一段对选项的解释。
第一次尝试可以让它写一封你一直拖着没写的短邮件,然后读读听起来怎么样。如果需要修改,就说明要改什么,再问一次。
对懂行的人来说,这是一个基于 Qwen3.8-27B 的 27B 模型,上下文 262,144 个 token。作者用盲测的一对一比较来评估,两种顺序都跑,并用另一个模型当评委。CommunicationBench、Human-Likeness 和 StoryBench 是他们自己做的基准测试,EQ-Bench 4 是公开的。代价在讲故事上,模型卡说它在敌对风格的故事和长故事回合上会输。
把日常消息和邮件写成一条可以直接发送的文字,而不是一堆选项。基于 Qwen3.8-27B 的 27B 模型,非商业使用免费,适合想要听起来像真人写作的人。
由 HemmingwayAI 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Hemmingway-1 是基于 Qwen3.8-27B 的 27B 文本模型,面向人们每天都在做的写作,比如消息、邮件和写给同事的尴尬便条。很多模型会回答一堆选项加一段解释,而它直接给出文字本身。权重开放,非商业使用免费,商业使用需要另行达成协议。
适合谁:它适合经常写短消息的人,也适合想在开放模型上做写作助手的开发者。
行业 | 谁在用 | 怎么用 | 例子
个人和办公写作 | 要发一条尴尬消息的人 | 请它写出可以直接发送的文字 | 请它写一条给房东、说明锅炉坏了的消息
软件开发 | 开发写作助手的开发者 | 用 vLLM 部署模型 | 以 262,144 个 token 的上下文启动服务
研究 | 比较写作模型的人 | 阅读作者公布的基准测试结果 | 看看它在公开的 EQ-Bench 4 上的表现
如果你需要无需协议的商业使用,或者要医疗、法律、金钱方面的建议,可以略过它。
用在哪里:
用途 | 谁用 | 能得到什么
日常消息 | 任何人 | 一条可以直接发的文字,前后没有选项或评论
工作邮件 | 办公室职员 | 尴尬便条和请求的草稿
难开口的请求 | 总在反复改写的人 | 一条试图说服对方的消息
如何设置:
你需要先准备:
pip install -U huggingface_hub
hf download HemmingwayAI/Hemmingway-1
如何使用:
启动一个 vLLM 服务器,或者在 Python 里加载模型,给它发一条聊天消息。模型卡自己的示例用的是 Altworld 那份权重。
vllm serve Altworld/Hemmingway-1 --max-model-len 262144
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "Altworld/Hemmingway-1"
tok = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto", dtype="auto")
messages = [{"role": "user", "content": "Write the text I send my landlord about the broken boiler."}]
ids = tok.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(ids, max_new_tokens=512)
print(tok.decode(out[0][ids.shape[-1]:], skip_special_tokens=True))
工具 | 作用
vllm serve | 以 262,144 个 token 的上下文为模型启动服务
transformers 脚本 | 加载模型,应用聊天模板并打印回复
示例:你请它写一条给房东、说明锅炉坏了的消息。模型直接给出这条消息,可以直接发送,而不是三个选项再加一段对选项的解释。
新手与专家:第一次尝试可以让它写一封你一直拖着没写的短邮件,然后读读听起来怎么样。如果需要修改,就说明要改什么,再问一次。
对懂行的人来说,这是一个基于 Qwen3.8-27B 的 27B 模型,上下文 262,144 个 token。作者用盲测的一对一比较来评估,两种顺序都跑,并用另一个模型当评委。CommunicationBench、Human-Likeness 和 StoryBench 是他们自己做的基准测试,EQ-Bench 4 是公开的。代价在讲故事上,模型卡说它在敌对风格的故事和长故事回合上会输。
你描述需要的消息
模型用聊天模板读取它
它写出没有选项和备注的文字
你读一遍然后发送
注意事项:
Title: 难开口的请求中,被判为真人所写的比例
GPT-6 Astra: 9%
Hemmingway-1: 72%
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download HemmingwayAI/Hemmingway-1
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Hemmingway-1 本页 | 3,631 | 902 | 26.9B | cc-by-nc-4.0 | |
| Hemmingway-1.5共有 creative-writing · qwen3.8 · qwen3_5_text | 3,322 | 61 | 26.9B | cc-by-nc-4.0 | |
| ibnsina-1.5b共有 chat · text-generation · conversational | 803 | 3 | 1.5B | apache-2.0 | |
| Qwen3.8-27B-Longbook27-v2共有 transformers · text-generation · conversational | 1,407 | 49 | 27.1B | apache-2.0 | |
| Smaug Humanizer共有 transformers · text-generation · conversational | 1,162 | 29 | 12B | apache-2.0 | |
| Hy-MT2-1.8B共有 transformers · text-generation · safetensors | 22,844 | 1,285 | 2B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
vennify · 工具包
用在 JFLEG 数据集上训练的 T5 模型改写英文文本,减少语法错误。由 vennify 制作,适合想在 Python 里加入语法修正步骤的写作者、学生和开发者。
tencent · 工具包
在你自己的设备上用压缩到 1.25 比特的 1.8B 模型进行 33 种语言之间的翻译,GGUF 文件约 440 MB,适用于 llama.cpp。适合给应用加入离线翻译的开发者。
summerAIO · 工具包
用经过微调、采用 Gated DeltaNet 层的 27B 模型,对整本书长度的文字做摘要、问答和续写,支持英语和日语。适合处理长文档的人。