Quark

Quark

FirstPrinciples 从 Qwen3.5-9B 微调出的 9B 物理、科学和数学推理模型。适合想要分步推导和第二意见，并希望在本地或离线使用的研究者。

由 FirstPrinciplesLabs 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Quark 是 FirstPrinciples 推出的 9B 推理模型，面向物理、科学和数学。它以 Qwen3.5-9B 为起点，在精心整理的物理、数学和编程数据上做了监督微调。作者还发布了适用于 llama.cpp 的 8-bit Q8_0 版本。

适合谁：想要对物理、科学和数学问题得到分步推理的研究者和高年级学生。

Industry | Who uses it | How they use it | Example
物理研究 | 物理学家 | 处理推导和估算 | 一个结果的分步推导
数学 | 数学家 | 检查计算和证明 | 对一份解答的第二意见
科学实验室 | 研究团队 | 把敏感工作留在自己的机器上 | 对未发表数据的离线分析
教育 | 高年级学生 | 学习难题的推理过程 | 一道研究生水平的物理题

如果你需要通用聊天模型，可以跳过它。模型卡说，对重要的结果，要独立验证答案。

用在哪里：

• Hugging Face Transformers，使用 Safetensors 权重
• llama.cpp，使用 Q8_0 版本，模型卡说它能在 16 GB 的 Mac 上运行
• Theo Platform，作者运营的托管研究平台
• Windows、macOS 或 Linux，下载这一步需要 Python

Use case | Who | What they get back
解决问题 | 研究者 | 带推理过程的推导、估算和计算
检查工作 | 研究者 | 对一个结果的第二意见
私密研究 | 实验室 | 在你机器上离线得到的回答

如何设置：

• 电脑上装有 Python 和 pip
• 约 19.3 GB 空间存放 BF16 权重，或按估算约 4.8 GB 的 4-bit 版本
• Transformers，或用于 Q8_0 版本的 llama.cpp

1. 安装 Hugging Face hub 软件包。
2. 用 hf 命令下载模型文件。
3. 按模型卡的使用部分运行它。

pip install -U huggingface_hub
hf download FirstPrinciplesLabs/quark

如何使用：在 Transformers 里加载模型，或在 llama.cpp 里加载 Q8_0 文件，然后问一个物理、科学或数学问题。模型卡说它的基准测试在思考模式下运行，输出最多 131,072 个词元。

hf download FirstPrinciplesLabs/quark

示例：你贴上一段物理推导，请模型检查每一步。它会逐步梳理推理，指出不成立的一步，而重要的结果你要另外独立验证。

新手与专家：如果你是新手，先用一个你已经知道答案的问题，读它写出的推理过程。把它的输出当作需要检查的草稿。

如果你懂这个领域，模型卡报告 bf16 权重的 GPQA Diamond 为 87.4，而 Qwen3.5-9B 是 81.6。它说 Q8_0 在列出的每个基准上都与 bf16 持平。它还说 Quark 位于纯文本 Humanity's Last Exam 的规模对得分前沿上。

Qwen3.5-9B 基础模型
在物理、数学和代码上做监督微调
bf16 的 Quark
用于 llama.cpp 的 Q8_0 版本

Title: GPQA Diamond 准确率，百分比
Qwen3.5-9B: 81.6 %
Quark bf16: 87.4 %
Quark Q8_0: 87.8 %

注意事项：

• License: Apache 2.0
• Cost to run: 你自己的硬件，而 Theo Platform 需要注册，模型卡没有给出价格
• Data it reaches: 你下载的文件，以及你用托管平台时提的问题
• Not for: 没有独立核对的重要结果
• Language: 记录里只有英文

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：9.7B
• Weights: about 19.3 GB in BF16; about 4.8 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：107
• 点赞：7
• 许可证：apache-2.0
• 语言：en
• 基于：Qwen/Qwen3.5-9B
• Quantized versions: 1
• 标签：transformers, safetensors, qwen3_5, image-text-to-text, physics, science, reasoning, math, qwen3.5, conversational

链接

• 模型：https://huggingface.co/FirstPrinciplesLabs/quark
• 文件：https://huggingface.co/FirstPrinciplesLabs/quark/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download FirstPrinciplesLabs/quark

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。