Slonik

Slonik

帮助完成智能体式编码，包含两个在 PostgreSQL 引擎任务上训练的模型。Slonik-27B 和 Slonik-9B 来自 Postgres Professional，适合从事数据库代码和编码智能体的开发者。

由 dglhf 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Slonik 是一对用于智能体式编码的语言模型，即 Slonik-27B 和 Slonik-9B，由 Postgres Professional 开发。它们在 PostgreSQL 引擎相关工作上训练：修复源代码、编写内置 C 函数和编写扩展，并以可执行的测试作为反馈。团队随后检验了这些提升能否迁移到一般的软件工程任务上。

适合谁：适合从事 PostgreSQL 内部开发的开发者，以及研究如何根据测试结果学习的编码智能体的研究人员。模型权重采用 Apache 2.0 许可证。

Industry | Who uses it | How they use it | Example
数据库 | PostgreSQL 贡献者 | 请模型协助处理源码级修复和 C 函数 | 请它为某个扩展起草一个内置函数的初稿
软件 | 构建编码智能体的团队 | 在自己的环境里把它当作智能体背后的模型 | 用 vLLM 部署 27B 文件夹，并让智能体指向它
研究 | 机器学习研究人员 | 研究在引擎环境中的训练如何迁移到一般编码 | 在自己的任务上比较 9B 和 27B 检查点

如果你只想要一个日常闲聊的小模型，可以跳过它，因为它面向编码工作。

用在哪里：

• 使用 transformers 库的 Python 脚本，你可以选择 27B 或 9B 文件夹
• 从下载好的文件夹启动的 vLLM 服务器
• Apple silicon 的 Mac，可使用模型卡列出的 27B 模型社区 MLX 量化版
• 装有 Python 的 Windows、macOS 或 Linux，用来下载

Use case | Who | What they get back
讲解引擎内部原理 | 开发者 | 一份书面解释，例如 MVCC 可见性如何工作
智能体式编码 | 智能体构建者 | 可以在开启工具调用解析的情况下部署的模型
研究基线 | 研究人员 | 两个 BF16 检查点，可并排评测

如何设置：

• 在 Windows、macOS 或 Linux 上装好 Python
• 与你的硬件匹配的 PyTorch 版本
• Transformers 5.9.0 和 Accelerate 1.14.0，也就是模型卡示例使用的版本
• 为你所选文件夹的 BF16 权重留出空间

1. 安装 Python 和适合你硬件的 PyTorch 版本。
2. 安装 huggingface_hub 软件包，并用下面第一段命令下载整个仓库。
3. 用第二段命令安装固定版本的 transformers 和 accelerate。
4. 加载模型时选择 27B 或 9B 文件夹。

pip install -U huggingface_hub
hf download dglhf/Slonik

pip install "transformers==5.9.0" "accelerate==1.14.0"

如何使用：模型卡里的 transformers 示例会从选定的子文件夹加载分词器和模型，通过聊天模板构建提示词并关闭思考模式，再用采样方式最多生成 512 个新 token。

import torch
from transformers import AutoModelForImageTextToText, AutoTokenizer

model_id = "dglhf/Slonik"
subfolder = "27B"
tokenizer = AutoTokenizer.from_pretrained(model_id, subfolder=subfolder)
model = AutoModelForImageTextToText.from_pretrained(
    model_id, subfolder=subfolder, dtype=torch.bfloat16, device_map="auto",
)
model.eval()

messages = [{"role": "user", "content": "Explain how PostgreSQL MVCC visibility works."}]
prompt = tokenizer.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True, enable_thinking=False,
)
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
with torch.inference_mode():
    outputs = model.generate(
        **inputs, max_new_tokens=512, do_sample=True,
        temperature=1.0, top_p=0.95, top_k=20,
    )
print(tokenizer.decode(outputs[0, inputs.input_ids.shape[1]:], skip_special_tokens=True))

把 subfolder 的值改成 9B，就能加载较小的模型。要用 vLLM 部署，先用 snapshot_download 只下载一个文件夹，再对这个文件夹启动服务器。

from huggingface_hub import snapshot_download

snapshot_download(
    "dglhf/Slonik",
    allow_patterns=["27B/*", "LICENSE", "NOTICE", "licenses/*"],
    local_dir="./Slonik",
)

vllm serve ./Slonik/27B \
  --served-model-name Slonik-27B \
  --language-model-only --max-model-len 32768 \
  --enable-auto-tool-choice --tool-call-parser qwen3_coder \
  --default-chat-template-kwargs '{"enable_thinking": false}'

Tool | What it does
AutoModelForImageTextToText | 在 transformers 中加载所选的 Slonik 文件夹
apply_chat_template | 根据你的消息构建提示词
snapshot_download | 只下载你列出的文件夹和许可证文件
vllm serve | 把下载好的文件夹部署成模型接口

示例：你通过模型卡的示例脚本发送消息 "Explain how PostgreSQL MVCC visibility works."。脚本会打印出一份书面解释，按示例的设置在 512 个新 token 处截断。

新手与专家：这些是大型模型，所以先读模型卡，并且先试较小的 9B 文件夹，再试 27B。一个好的起步是运行上面的 transformers 示例，并把 subfolder 设为 9B。

这两个模型的起点不同，分别是 Qwen3.8-27B 和 Qwen3.5-9B，都经过继续预训练、监督微调，再用基于测试的奖励做强化学习。由于底座不同，模型卡说这样的比较无法单独看出参数量的影响。9B 的训练在被评测的检查点之后又继续了，而报告里没有对这个后期阶段做完整评测。

选择 27B 或 9B 文件夹
加载分词器和模型
用聊天模板构建提示词
用采样方式生成回复
把回复解码成文本

注意事项：

• License: Apache 2.0
• Cost to run: 未提及
• Data it reaches: 下载时从 Hugging Face 获取文件，来源没有提到其他内容
• Not for: 评测涵盖文本和代码工作，它保留的视觉部分不在这个范围内
• 9B 模型的 SWE-bench 分数是暂定的，因为有一轮评测只完成了 58 个任务中的 55 个

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• Formats: Safetensors
• 最近 30 天下载：0
• 点赞：5
• 许可证：apache-2.0
• Quantized versions: 3
• 标签：transformers, safetensors, slonik, code, postgresql, software-engineering, reinforcement-learning, text-generation

链接

• 模型：https://huggingface.co/dglhf/Slonik
• 文件：https://huggingface.co/dglhf/Slonik/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download dglhf/Slonik

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。