Axion-1.0-35B

Axion-1.0-35B

Axion 1.0-35B 的复现检查点，一个 35B 混合专家模型，面向科学推理、信息检索和借助工具解决问题，用 vLLM 部署。适合研究人员和智能体开发者。

由 Axion1-0 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这个仓库提供 Axion 1.0-35B 的重新构建副本，使用的是它论文里的训练方法。它是混合专家模型，总参数约 35B，其中 3B 激活，以 BF16 存储。它面向科学推理、查找信息和借助工具解决问题。

适合谁：构建能推理科学问题、或借助工具查资料的智能体的研究人员和工程师，以及想用开源检查点核对论文结果的人。

Industry | Who uses it | How they use it | Example
研究 | 科学与 AI 研究人员 | 复现并测试论文里的智能体方法 | 在基准问题上运行这个检查点
软件 | 智能体开发者 | 把它当作使用工具的智能体的推理核心 | 配上工具调用解析器来部署
教育 | 高年级学生 | 研究一个三阶段的训练方法 | 对比论文分数和复现分数

如果你没有多 GPU 服务器，可以跳过它，因为模型卡里的部署示例用了八块 GPU。

用在哪里：

• 运行 vLLM 的 GPU 服务器，就像模型卡的示例那样
• 能执行工具调用的智能体框架，模型卡说使用工具的评测需要它
• 装有 Hugging Face 工具的 Python 环境，用来获取文件

Use case | Who | What they get back
科学推理 | 研究人员 | 对难题的详细解答
借助工具查找信息 | 智能体构建者 | 依靠工具调用得出的答案
通过部署好的接口聊天 | 开发者 | 通过兼容 OpenAI 的接口得到的模型回复

如何设置：

• Python 和 Hugging Face 工具
• vLLM
• 多块 GPU，因为示例用了八块，你可以按自己的显存调整张量并行数和上下文长度
• 约 70.2 GB 磁盘用于 BF16 权重，这是估计值

1. 安装 Hugging Face hub 软件包。
2. 下载仓库文件。
3. 用模型卡的命令，通过 vLLM 部署这个检查点。

pip install -U huggingface_hub
hf download Axion1-0/Axion-1.0-35B

vllm serve Axion1-0/Axion-1.0-35B \
  --served-model-name axion-35b \
  --tensor-parallel-size 8 --dtype bfloat16 \
  --max-model-len 131072 \
  --reasoning-parser qwen3 \
  --enable-auto-tool-choice --tool-call-parser qwen3_coder

如何使用：服务器启动后，向它兼容 OpenAI 的接口发送聊天请求，模型名写 axion-35b。模型卡还设置了主机和端口，你可以自己选择。

Tool | What it does
vllm serve | 启动模型服务器
--tensor-parallel-size | 把模型分到多块 GPU 上，示例里是 8
--max-model-len | 设置上下文长度，示例里是 131072
--tool-call-parser | 从模型输出里解析出工具调用

示例：按所示方式部署模型，向 axion-35b 发送聊天请求，用户消息是 "What is 2 + 3?"。回复会以普通聊天补全的形式返回。使用工具的智能体运行需要一个能执行调用的框架。

新手与专家：如果你是新手，请知道这是需要多块 GPU 的大模型。先试上面那个简单的加法问题，再做智能体工作。

如果你熟悉这个领域，这个方法在约 18K 条监督样本上分三个阶段。第一步，在困难且自成一体的科学问题上做监督微调。第二步，在需要外部信息和工具的可验证任务上做监督微调。第三步，在智能体运行轨迹上做强化学习。

输入一个问题
模型逐步推理
框架执行其中的工具调用
返回答案

Title: 复现检查点的得分
HLE: 52.8 percent
BMB: 35.3 percent
SEAL-0: 60.4 percent
HiPhO: 45.9 percent
FS 奥赛: 85.0 percent
FS 研究: 55.0 percent

注意事项：

• 模型卡把复现结果和论文做了对比，两者接近但不完全相同。
• HLE 是 Humanity's Last Exam，BMB 是 BioMysteryBench 的一个子集，FS 是 FrontierScience。
• License: apache-2.0。
• Cost to run: 没有提到，只需要你自己的 GPU 硬件。
• Data it reaches: 你发送的提示词和任何工具输出。来源没有提到账号或外部服务。
• Not for: 自己运行工具。模型卡说智能体评测需要单独的框架。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：35.1B
• Weights: about 70.2 GB in BF16; about 17.6 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：1,535
• 点赞：76
• 许可证：apache-2.0
• Quantized versions: 8
• 标签：transformers, safetensors, qwen3_5_moe, image-text-to-text, reproduction, agent, tool-use, scientific-reasoning, text-generation, conversational

链接

• 模型：https://huggingface.co/Axion1-0/Axion-1.0-35B
• 文件：https://huggingface.co/Axion1-0/Axion-1.0-35B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Axion1-0/Axion-1.0-35B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。