CLM-v0.1-8B

CLM-v0.1-8B

为给定的状态，给候选答案、动作或工具名各打一个概率，而不是写文字。这是建在冻结的 Qwen3-8B 编码器上的快速决策模型，适合智能体和分流工具的构建者。

由 Contrastive-LM 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：CLM-v0.1-8B 是一个对比语言模型，用来快速做决策，而不是写文字。两个小的投影头，一个负责状态，一个负责动作，加在冻结的 Qwen3-8B 编码器上方。它们用双向 InfoNCE 损失学习把状态和正确的动作配对。你给它一个状态和一些选项，它为每个选项返回一个概率。

适合谁：如果你是开发者，在构建智能体或分流工具，需要的是快速的打分决策，而不是生成的文字，它很适合你。

Industry | Who uses it | How they use it | Example
客户支持 | 支持工具的开发者 | 针对客户消息提出带类型的问题 | 为一条发票投诉的紧急程度、团队和不满程度打分
智能体 | 智能体构建者 | 给候选工具名或下一步动作排序 | 最合适的工具名得到最高的概率
软件工程 | 验证智能体输出的团队 | 用微调过的头给候选方案打分 | 模型卡报告微调后的头在 DeepSWE 上得到 81.6

如果你需要它替你写文字，可以跳过它，因为它只给你提供的候选打分。

用在哪里：

• Python，通过 contrastive-lm 包使用
• 提供 Qwen3-8B 嵌入的 vLLM 服务器
• clm-serve 在你自己电脑上运行的网页演示场
• Windows、macOS 或 Linux，装有 Python

Use case | Who | What they get back
针对状态的带类型问题 | 支持和产品开发者 | 是非、选择和评分问题的概率
给自由形式的候选排序 | 智能体构建者 | 带有每个候选概率的排序列表
针对任务微调 | 机器学习工程师 | 低成本训练出来的头，因为只有头会变

如何设置：你需要 Python、这个包，以及编码器的服务器。

• 装有 pip 的 Python
• 把 Qwen3-8B 作为池化模型提供服务的 vLLM 服务器
• 放得下 CLM 检查点的空间，clm-serve 首次运行时会把它取到缓存文件夹里

1. 安装 contrastive-lm 包。
2. 用 vllm serve 命令启动编码器服务器。
3. 启动 clm-serve，它会运行 API 和网页演示场，并获取检查点。
4. 从 Python 调用 API。

pip install contrastive-lm
vllm serve Qwen/Qwen3-8B --served-model-name qwen3-8b --runner pooling --max-model-len 2048 --port 8090 &
clm-serve

如果想用 Hugging Face 工具自己下载模型文件，用这两行：

pip install -U huggingface_hub
hf download Contrastive-LM/CLM-v0.1-8B

如何使用：创建一个客户端，然后发送一个状态和带类型的问题。每个答案都带有每个选项的概率。模型卡的示例问的是一条客户消息：

from clm import CLMClient, Choice, Noul, Score

client = CLMClient()
r = client.system_one(
    state="Customer: my invoice was charged twice and nobody answers the phone!",
    questions={
        "urgency": Noul(instructions="Is this urgent?"),
        "department": Choice(instructions="Which team should handle this?",
                             criteria={"billing": "Charges, invoices, refunds",
                                       "technical": "Bugs and outages"}),
        "frustration": Score(instructions="How frustrated is the customer?",
                             criteria=["Calm", "Frustrated", "Very angry"]),
    },
)
print(r.answers["department"].choice)         # billing
print(r.answers["department"].probabilities)  # {'billing': 0.93878, 'technical': 0.06122}

Tool | What it does
clm-serve | 启动 CLM 的 API 和网页演示场，首次运行时获取检查点
CLMClient | 发送状态和带类型问题的 Python 客户端
Choice, Noul, Score | 问题类型：选一个选项、回答是或否，或按有序等级评分
Engine.rank | 给自由形式的候选排序，比如 best-of-N 方案、工具名或下一步动作

示例：你发送一位客户的消息，他被扣了两次款，又联系不上任何人，并附上三个问题：是否紧急、该由哪个团队处理、客户有多不满。模型卡显示 department 的答案是 billing，概率接近 0.94，technical 约为 0.06。

新手与专家：把它想成一个快速的裁判，从你提供的选项中挑选。第一个小尝试是运行 clm-serve，在它的网页演示场里输入一条简短的消息和几个选项。

只有两个头会被训练，Qwen3-8B 编码器保持冻结，所以微调的成本很低。每个状态和每个动作都经过各自的编码步骤，所以为动作算好的嵌入可以之后复用。模型卡报告说，在大约 1k 个候选时，它比 Jev 快 13 倍。训练用了大约 60M 条 Nemotron 问答对、大约 30M 条合成的难负例，以及大约 1M 条智能体轨迹。

用 Qwen3-8B 编码器对状态编码
让它通过状态头
用动作头对每个候选编码
按相似度把状态和动作配对
为每个候选返回一个概率

注意事项：不做任何微调，模型卡报告的结果在电脑操作、游戏和工具调用上接近 Jev，延迟最多低 9 倍。下面的分数来自微调过的头，而不是原样使用的这个检查点。

Title: 微调后的头的报告得分
DeepSWE: 81.6 %
Terminal-Bench 2.1: 87.6 %

• Encoder-locked: 这些头需要来自 Qwen3-8B 的嵌入，取自最后一个词元
• No generation: 它从不写文字，每个概率都是相对于你提供的候选集合而言的
• Other versions: 其他人已经发布了 9 个量化版本和 9 个微调版本
• License: Apache 2.0，按 Hugging Face 上的标注
• Cost to run: 没有提到，但需要一个给编码器用的 vLLM 服务器
• Data it reaches: 你发送到自己电脑上服务器的状态和候选，以及首次运行时取回的检查点
• Not for: 生成文字

Hugging Face 上的数据（2026年11月13日）

• 任务：text ranking
• 框架：contrastive-lm
• 最近 30 天下载：1,092
• 点赞：794
• 许可证：apache-2.0
• 语言：en
• 基于：Qwen/Qwen3-8B
• Quantized versions: 9
• Fine-tunes: 9
• 标签：contrastive-lm, contrastive-learning, verifier, reranker, agents, text-ranking

链接

• 模型：https://huggingface.co/Contrastive-LM/CLM-v0.1-8B
• 文件：https://huggingface.co/Contrastive-LM/CLM-v0.1-8B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Contrastive-LM/CLM-v0.1-8B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。