ARC 1.0

ARC 1.0

读取智能体的对话，预测哪个模型会成功、会用多少词元、该花多少推理，让应用按质量和成本来路由请求。适合智能体开发者。

由 rayline-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：ARC，即自适应路由控制器，是一个小型决策模型，帮助 AI 智能体选择由哪个模型处理下一个请求。它读取对话并输出信号，比如某个模型完成任务的可能性和它会用多少词元。你的应用再把这些信号与自己的模型列表、价格和策略结合起来。权重在 BF16 下约 1.2 GB。

适合谁：适合让智能体在多个云端和本地模型之间运行、并希望在回答质量和成本之间取得平衡的开发者。

行业 | 谁在用 | 怎么用 | 例子
软件 | 智能体平台团队 | 从模型池里为每个请求选最合适的模型 | 把简单任务交给便宜的模型，把难任务交给强的模型
成本控制 | 工程经理 | 设定成功值多少钱、花费多少 | 针对日常工作的成本优先策略
隐私 | 安全团队 | 在路由前检测输入里的敏感信息 | 让含个人数据的请求留在本地模型上
研究 | 机器学习研究者 | 研究路由，并在公开基准上比较路由器 | 阅读报告里与其他路由器的对比

如果你只调用一个模型，可以跳过它，因为它的工作是在模型之间做选择。

用在哪里：它位于智能体或模型网关的前面，Hugging Face 记录把 vLLM 列为它的库。

• 能调用多个模型的智能体应用
• 托管这个控制器的 vLLM 服务器
• 同时混用云端模型和本地模型的部署

使用场景 | 谁用 | 得到什么
模型选择 | 智能体开发者 | 每个符合条件的模型的预测成功概率
成本估算 | 平台团队 | 预计的词元用量，你据此算出花费
推理设置 | 开发者 | 每种设置的预期收益和成本

如何设置：你需要装有 pip 的 Python 来获取权重、一套 vLLM 服务环境，以及你自己的带价格的模型列表。模型卡可见的部分没有给出运行命令。

• 装有 pip 的 Python
• 为控制器准备的 vLLM 服务器
• 你的模型列表、价格和路由策略

1. 安装 Hugging Face 下载工具。
2. 把 ARC 权重下载到你的电脑上。
3. 按作者的文档把它们服务起来，并把信号接到你自己的路由策略上。

pip install -U huggingface_hub
hf download rayline-ai/ARC-1.0

如何使用：把智能体的对话发给 ARC，读回信号，然后套用你的策略。模型卡预设的效用规则是价值乘以预测成功率再减去预期成本，你选结果最高的符合条件的模型。

工具 | 作用
模型成功信号 | 给每个符合条件的模型一个完成任务的预测概率
词元用量信号 | 估算输入、缓存和输出词元，方便你计价
推理信号 | 权衡每种推理设置的预期收益和成本
PII 检测 | 报告是否存在敏感信息及其类型
请求类别 | 给请求涉及的操作和领域打标签
问题头 | 返回你所定义的答案选项的概率

示例：把一个请求连同一个问题一起传入，比如它是否需要更强的模型，选项是“是”和“否”。ARC 会返回每个选项的概率，你的应用据此选择模型。

新手与专家：把 ARC 想成调度员。给它一个任务，它会估计哪位工人可能做得好、要花多少钱。第一个小尝试，是在你自己的几个请求上运行它，看看成功和成本信号。

对熟悉这个领域的人来说，ARC 把预测和策略分开。它预测成功率和词元用量，价格由你的应用提供，所以只要模型和服务配置不变，价格变化不需要重新训练。Sage 和 Swift 两个预设只在对成功的估值上不同，分别是 4.5 和 0.1。预设表达的是偏好，所以实际的质量和成本仍取决于你的请求和模型池。

一段智能体对话到来
ARC 预测成功率和词元用量
你的应用加入价格和策略
选出最合适的符合条件的模型
请求在该模型上运行

注意事项：下面的数字来自作者自己的技术报告，并且只涵盖作者选定的配置。

• 混合结果：在六个基准上，报告里的边缘加云端方案保留了 Opus 5.5 的 97.5% 的质量，同时少花了 92.9% 的成本。
• 并非处处领先：ARC Sage 在 Tau3 Banking 上低于 Opus 5.5，是 33.2% 对 42.8%。
• 预设：Sage 把成功估值为 4.5，Swift 为 0.1，还有一个优先本地的设置，在高于你设定的阈值时使用本地模型。

Title: ARC Sage 的成本占 Opus 5.5 成本的比例
DeepSWE: 7 百分比
SWE-Atlas QA: 13 百分比
Tau3 Banking: 17 百分比
GPQA Diamond: 21 百分比
MMMU-Pro Vision: 39 百分比
Terminal-Bench 2.1: 58 百分比

Title: RouteBench 平均路由指数，满分 10
ARC Sage: 9.3 分
Pareto: 9.2 分
ARC Swift: 9.1 分
Fugu Max: 7.1 分

• License: Apache 2.0。
• Cost to run: ARC 本身未提及，来源没有列出 API 密钥或账号，而你所路由到的模型的价格需要由你提供。
• Data it reaches: 你发给它的对话，并且它可以标出其中的敏感信息。
• Not for: 聊天或写文字，因为它输出的是路由信号而不是答案。

Hugging Face 上的数据（2026年11月13日）

• 任务：text classification
• 框架：vllm
• 参数量：615M
• Weights: about 1.2 GB in BF16; about 308 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：37
• 点赞：23
• 许可证：apache-2.0
• 语言：en
• 基于：Qwen/Qwen3.5-0.8B
• 标签：vllm, safetensors, qwen3_5, rayline, model-routing, agents, decision-model, custom-code, text-classification

链接

• 模型：https://huggingface.co/rayline-ai/ARC-1.0
• 文件：https://huggingface.co/rayline-ai/ARC-1.0/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download rayline-ai/ARC-1.0

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。