Chroma Context-1

Chroma Context-1

一个 200 亿参数的搜索模型，为复杂的多步问题找出支撑文档，并在搜索中修剪自己的上下文。设计成与更大的推理模型搭配的检索助手。

由 chromadb 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Chroma Context-1 是一个基于 openai/gpt-oss-20b 构建的搜索模型。它接收一个难题，把它拆成更小的查询，一步步搜索文档集合，并收集能支撑答案的文档。

它被设计成与更大的推理模型搭配的检索子智能体。搜索时它会丢掉不再需要的文档，给后续搜索腾出上下文空间。

适合谁：适合构建检索或研究智能体、希望在主推理模型前面加一个专门搜索步骤的开发者。研究智能体搜索如何训练的研究人员也会感兴趣。

Industry | Who uses it | How they use it | Example
AI 工程 | 智能体开发者 | 加一个为主模型供料的搜索子智能体 | 回答前先收集来源的研究智能体
法律 | 法律科技开发者 | 为多部分问题检索支撑文档 | 找出满足多个既定条件的文档
金融 | 分析团队 | 在大量文档中搜索相关证据 | 收集与某个问题相关的申报文件
研究 | 机器学习研究人员 | 研究会自我编辑的搜索智能体 | 阅读技术报告并对比不同设置

如果你想要几行代码就能跑起来的模型，可以先等等，因为它需要一个尚未公开的特定运行框架。

用在哪里：

• 智能体系统里的检索环节，与更大的推理模型搭配。
• 用 Transformers 库的 Python，因为 Hugging Face 列出的就是这个库。
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件。

Use case | Who | What they get back
多步检索 | 智能体开发者 | 复杂问题的支撑文档
查询拆解 | 搜索工程师 | 被拆成有针对性子查询的难题
长时间搜索 | 研究团队 | 靠修剪无关文档保持的检索质量

如何设置：你需要 Python，以及一台放得下 200 亿参数模型的机器。

• 带 huggingface_hub 的 Python
• 足够放权重的磁盘空间，按 Hugging Face 的估算 BF16 约 41.8 GB
• 能运行这种规模模型的 GPU 或其他硬件
• Chroma 的智能体运行框架，目前尚未公开

1. 安装 Hugging Face 工具。
2. 下载模型文件。
3. 等待或自己搭建一个像模型卡描述的那样管理工具、标记预算和修剪的运行框架。

pip install -U huggingface_hub
hf download chromadb/context-1

如何使用：模型卡没有给出运行命令。模型是为一个特定的运行框架训练的，这个框架负责执行工具、分配标记预算、修剪上下文和去重，技术报告里的结果也依赖它。

日常使用时，运行框架把一个查询交给模型，模型把它拆解，调用搜索工具，常常一次调用多个，然后返回找到的文档。

示例：有人给智能体一个带多个条件、任何单次搜索都答不了的问题。Context-1 把它拆成独立的子查询，为每个子查询搜索语料库，丢掉没有帮助的文档，再把支撑文档交给主模型使用。

新手与专家：如果你刚接触，可以把它想成只负责找资料的研究助理，它不写最终答案。第一步是读技术报告并下载文件，因为要跑好它需要那个运行框架。

对专家来说，这是一个混合专家模型，先做监督微调，再用 CISPO 做强化学习，采用分阶段课程。模型卡报告平均每轮 2.56 次工具调用，修剪准确率为 0.94。它声称检索效果可与前沿模型相当，成本更低，速度最多快 10 倍，这些都是作者自己的说法。

收到一个复杂查询
模型把它拆成子查询
用并行工具调用搜索语料库
修剪没有帮助的文档
把支撑文档交给主模型

注意事项：下面几点说明了限制和成本。

• Harness: 没有智能体运行框架就无法复现报告中的结果，而这个框架尚未公开。
• Precision: 文件是 BF16，较小的 MXFP4 检查点被标为即将推出。
• License: Apache 2.0。
• Cost to run: 没有提到 API 密钥或付费服务。200 亿参数的模型需要相当的硬件。
• Data it reaches: 它在你的运行框架提供的文档语料库里搜索，没有提到别的。
• Not for: 独立写最终答案，或者想要报告中的质量却不用运行框架单独使用。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：20.9B
• Weights: about 41.8 GB in BF16; about 10.5 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：613
• 点赞：425
• 许可证：apache-2.0
• 基于：openai/gpt-oss-20b
• Quantized versions: 8
• 标签：transformers, safetensors, gpt_oss, text-generation, conversational

链接

• 模型：https://huggingface.co/chromadb/context-1
• 文件：https://huggingface.co/chromadb/context-1/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download chromadb/context-1

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。