Clef

Clef

Cloudflare 的 27B 多模态模型，针对文本、JSON、图片或视频输入，为带类型的问题给出每个允许答案的分数，而不是写出自由文本。

由 Cloudflare 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Clef 是 Cloudflare 的 27B 多模态模型。你给它一个情境和一组问题，每个问题都有固定的答案选项。它一次性给每个问题的每个选项打分，所以你得到的是概率，而不是一段文字回复。

情境可以是文本、JSON、图片或视频。Clef 由 Qwen3.8-27B 后训练而来，并加了一个小的头部，用来一起给所有选项打分。

适合谁：它适合需要模型做结构化决策的团队，比如给消息分类或给记录打标签，并且想要可以直接用的数字。模型卡称它的 API 与 Jev 和 SystemOne 兼容。

行业 | 谁在用 | 怎么用 | 例子
客户支持 | 支持工程师 | 把消息分给合适的团队 | 在账单和技术之间选择
财务运营 | 后台团队 | 按状态给记录分类 | 判断发票是已付、逾期还是草稿
软件 | 后端开发者 | 在工作流里加一个决策步骤 | 判断一条消息是否显得紧急
数据团队 | 分析师 | 按固定答案集给输入打标签 | 在命名的量表上给一条记录打分

如果你需要自由写作，可以跳过它，因为这个模型不生成文本。

用在哪里：

• Python，通过仓库自带的辅助文件加载模型
• SGLang，可以用它来提供服务，模型卡展示了在单张 H200 上用 Docker 的方式
• 任何支持 Jev 或 SystemOne 请求格式的服务
• Windows、macOS 或 Linux，用于下载文件

用例 | 谁用 | 得到什么
消息分流 | 支持团队 | 每个可能处理它的团队的概率
记录分类 | 运营团队 | 每个允许状态的概率
是否检查 | 开发者 | 一条陈述为真的概率

如何设置：先准备好下面这些东西。

• 装有 torch 和 transformers 的 Python
• pillow，如果你要发送图片或视频
• 大显存 GPU，模型卡是在一张 H200 上测试的
• 记录显示 BF16 权重约需 54.7 GB 磁盘空间

1. 用 hf 命令下载仓库。
2. 用仓库里的辅助函数加载模型。
3. 构建一条包含状态和你的问题的记录，然后运行。

pip install -U huggingface_hub
hf download Cloudflare/clef

如何使用：你写一条包含状态和一组问题的记录。每个问题有类型、说明，选择题还有允许的选项。辅助函数对记录编码、运行模型，并为每个选项返回一个分数。对每个问题做一次 softmax，就得到概率。

import sys

import torch
from huggingface_hub import snapshot_download

path = snapshot_download("Cloudflare/clef")
sys.path.insert(0, path)
from joint_schema_model import collate_records, encode_record, load_release_model

model, processor = load_release_model(path, device="cuda")

record = {
    "state": {"invoice": {"vendor": "Acme", "total": 1250.0, "currency": "USD", "status": "overdue"}},
    "questions": {
        "status": {
            "type": "choice",
            "instructions": "What is the invoice status?",
            "criteria": {"paid": "Invoice is paid.", "overdue": "Invoice is past due.", "draft": "Not sent."},
        },
        "large": {"type": "noul", "instructions": "Is the total above 1000 USD?"},
    },
}

encoded = encode_record(processor.tokenizer, record, processor=processor)
batch = collate_records([encoded], processor.tokenizer.pad_token_id, torch.device("cuda"))
with torch.inference_mode():
    logits = model(batch)[0]

for question, question_logits in zip(encoded.questions, logits):
    probabilities = question_logits.float().softmax(-1).tolist()
    print(question.question_id, dict(zip(question.option_ids, probabilities)))

要提供服务的话，模型卡展示了一条在单张 H200 上启动 SGLang 的 Docker 命令。

docker run --gpus all \
  --shm-size 32g \
  -p 30000:30000 \
  -v ~/.cache/huggingface:/root/.cache/huggingface \
  --ipc=host \
  lmsysorg/sglang:dev-clef \
  sglang serve \
    --model-path Cloudflare/clef \
    --host 0.0.0.0 \
    --port 30000

工具 | 作用
load_release_model | 从下载的文件夹加载主干和打分头
encode_record | 把状态和问题转成模型输入
systemone | 用 Python 回答 Jev 或 SystemOne 风格请求的函数

示例：你传入一条 Acme 的发票记录，问 "What is the invoice status?"，选项是 paid、overdue 和 draft。你会得到每个选项的概率，还有一个关于总额是否超过 1000 USD 的是否问题的概率。

新手与专家：把 Clef 想成一个用问题来引导的分类器，而不是聊天机器人。先运行模型卡里的 Python 记录，看它打印出的概率。改一个选项的描述，再运行一次。

在内部，带视觉编码器的 Qwen3.8-27B 主干把结果送入一个联合头。骨干之上有一个小的头部，把状态的相关部分对应到各个问题，并联合给每个选项排序。没有采样，也不用解析输出。API 对每个问题返回选择、分数或是否概率，外加一个置信度数值。

发送状态和带类型的问题
主干读取状态
联合头给每个选项打分
你得到每个选项的概率

注意事项：

• License: Apache 2.0
• Cost to run: 来源没有提到费用，但模型卡是在一张 H200 上测试的，BF16 权重约 54.7 GB
• Data it reaches: 它从 Hugging Face 下载文件，你发送的状态和媒体在你自己的机器上处理
• Not for: 自由文本生成，因为模型只给允许的选项打分

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：27.4B
• Weights: about 54.7 GB in BF16; about 13.7 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：72,287
• 点赞：2,356
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.8-27B
• Quantized versions: 44
• Fine-tunes: 11
• 标签：transformers, safetensors, qwen3_5, image-text-to-text, clef, cloudflare, systemone, decision-model, qwen3.8, post-train, image-text-to-typed-output, multimodal

链接

• 模型：https://huggingface.co/Cloudflare/clef
• 文件：https://huggingface.co/Cloudflare/clef/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Cloudflare/clef

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。