Clef-Flash

Clef-Flash

把一个状态和一组有类型的问题变成决策，一次返回每个问题每个选项的概率，没有自由文本。这是 Cloudflare 的 9B 多模态模型，面向开发者。

由 Cloudflare 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Clef-Flash 是 Cloudflare 的 9B 多模态模型，由 Qwen3.5-9B 后训练而来。你给它一个状态和一组有类型的问题。状态可以是纯文本、JSON 记录、图片或视频。模型一次就给出每个问题每个答案选项的概率。它不写自由文本，所以没有什么需要解析。

适合谁：想让模型做例行决策，比如给消息分类或判断记录，并希望拿到概率而不是文字的开发者。

Industry | Who uses it | How they use it | Example
客户支持 | 支持工程师 | 给收到的消息分派和排序 | 决定哪个团队来处理一条消息
财务运营 | 账务团队 | 按状态对记录分类 | 判断一张发票是否逾期
软件开发 | 后端开发者 | 给服务加一个决策步骤 | 对一条消息是否紧急做是或否的判断
内容审核 | 运营团队 | 按规则判断图像和视频 | 针对一张图片的有类型问题

如果你想要一个能写回答或聊天的模型，可以跳过它，因为它只返回选项的概率。

用在哪里：

• 在 CUDA GPU 上，用 Python 搭配 torch 和 transformers
• SGLang，它可以提供服务，卡片附有 H200、B200 和 B300 GPU 的启动说明
• 使用 Jev 或 SystemOne 请求格式的服务

Use case | Who | What they get back
消息分流 | 支持团队 | 每个团队或紧急程度选项的概率
记录检查 | 财务团队 | 选择、打分或是非问题的概率
多模态决策 | 开发者 | 来自文本、JSON、图像或视频输入的概率

如何设置：

• Python，带 torch 和 transformers 这两个包
• 一块 CUDA GPU，因为卡片的示例在 GPU 上运行（它在单块 H200 上测试过）
• 如果要发送图像或视频，需要 pillow 包
• BF16 约需 18.8 GB 磁盘空间，4-bit 约 4.7 GB（估算值）

1. 安装 Hugging Face hub 工具。
2. 下载模型文件。
3. 运行卡片里的 Python 示例，它会加载模型并问两个问题。

pip install -U huggingface_hub
hf download Cloudflare/clef-flash

如何使用：构建一条包含状态和一组问题的记录。每个问题有类型、说明，选择题还要给出每个选项的标准。对记录编码，运行模型，再对每个问题的 logits 做 softmax 得到概率。

import sys

import torch
from huggingface_hub import snapshot_download

path = snapshot_download("Cloudflare/clef-flash")
sys.path.insert(0, path)
from joint_schema_model import collate_records, encode_record, load_release_model

model, processor = load_release_model(path, device="cuda")

record = {
    "state": {"invoice": {"vendor": "Acme", "total": 1250.0, "currency": "USD", "status": "overdue"}},
    "questions": {
        "status": {
            "type": "choice",
            "instructions": "What is the invoice status?",
            "criteria": {"paid": "Invoice is paid.", "overdue": "Invoice is past due.", "draft": "Not sent."},
        },
        "large": {"type": "noul", "instructions": "Is the total above 1000 USD?"},
    },
}

encoded = encode_record(processor.tokenizer, record, processor=processor)
batch = collate_records([encoded], processor.tokenizer.pad_token_id, torch.device("cuda"))
with torch.inference_mode():
    logits = model(batch)[0]

for question, question_logits in zip(encoded.questions, logits):
    probabilities = question_logits.float().softmax(-1).tolist()
    print(question.question_id, dict(zip(question.option_ids, probabilities)))

Tool | What it does
load_release_model | 加载模型及其处理器
encode_record | 把状态和问题变成模型输入
collate_records | 把编码后的记录组成批次交给模型
systemone | 回答以 Jev 或 SystemOne 格式写成的请求

示例：你给它一张 Acme 开出的 1,250 美元发票，标记为逾期。你问它的状态，选项是已付、逾期和草稿，再问总额是否高于 1,000 美元。它为每个状态选项返回一个概率，是非问题也返回一个概率。

新手与专家：如果你是新手，先运行卡片里的发票示例，看看打印出的概率。每个数字是该选项的可能性，同一个问题的数字加起来等于一。

底层是 Qwen3.5-9B 主干及其视觉编码器，接上一个小型联合模式头。这个头从状态里挑出与每个问题相关的部分，再一次性给所有问题的所有选项打分。输出是每个选项一个 logit，对每个问题做 softmax 就得到概率。另有一个更大的变体叫 Clef。

你写下状态和有类型的问题
主干读取状态
联合头给每个选项打分
你对每个问题做 softmax

注意事项：

• 问题类型：choice、score 和 noul，其中 noul 返回为真的概率
• 输出：choice 答案含所选项、置信度和概率，score 答案还有期望分数和图例
• License: Apache-2.0
• Cost to run: 没有提到 API 密钥或付费服务，只需要一块 GPU
• Data it reaches: 本地示例会下载模型并读取你构建的记录，卡片没有提到其他访问
• Not for: 自由文本生成，卡片说它不做这个

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：9.4B
• Weights: about 18.8 GB in BF16; about 4.7 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：36,799
• 点赞：919
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.5-9B
• Quantized versions: 63
• Fine-tunes: 15
• 标签：transformers, safetensors, qwen3_5, image-text-to-text, clef, cloudflare, systemone, decision-model, qwen3.5, post-train, image-text-to-typed-output, multimodal

链接

• 模型：https://huggingface.co/Cloudflare/clef-flash
• 文件：https://huggingface.co/Cloudflare/clef-flash/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Cloudflare/clef-flash

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。