Kolibri-1

Kolibri-1

用德语和英语推理并调用工具，上下文窗口超过一百万 token。这是 Aleph Alpha 推出的开放 78B 混合专家模型，每个 token 只激活 3.46B 参数。

由 Aleph-Alpha 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Kolibri-1 是 Aleph Alpha 推出的推理模型，采用混合专家结构，专注于德语和英语。它有明确的推理模式，并支持工具调用。每个 token 只有 78B 参数中的 3.46B 在工作，这让部署成本保持较低。

适合谁：适合需要德语和英语开放模型的团队，用于助手、文档处理和智能体等场景，并且有能力部署大型模型。

Industry | Who uses it | How they use it | Example
软件 | 开发者 | 在开放模型上构建编程和智能体功能 | 在工作流中调用工具的助手
公共部门 | IT 团队 | 把模型部署在自己的服务器上处理德语任务 | 一个内部问答服务
法律与金融 | 分析人员 | 处理德语或英语的长文档 | 从一份长合同中提取字段
研究 | 机器学习研究人员 | 研究长上下文的混合专家模型 | 对超长输入做检索测试

如果你只需要笔记本上的小模型，可以跳过它，因为它需要约 78 GB 的内存。

用在哪里：

• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件
• 使用 transformers 库的 Python 程序
• 配有大型加速器的服务器，如模型卡的硬件列表所述

Use case | Who | What they get back
多步推理 | 开发者 | 来自明确推理模式的完整解答
检索增强生成 | 搜索和客服团队 | 基于你提供的文档的回答
智能体工具调用 | 智能体开发者 | 模型对你自己工具的调用
长文档 | 分析人员 | 处理最多 1,048,576 token 的上下文

如何设置：

• Python，用来运行 Hugging Face 下载工具
• FP8 权重需要约 78 GB 的内存和磁盘
• 模型卡列出的硬件，比如 2 块 A100 80 GB、2 块 H100 SXM5，或 1 块 H200、B200 或 B300

1. 用 pip 安装 Hugging Face 的 hub 工具。
2. 用 hf 命令下载模型文件。
3. 按模型卡的说明在合适的硬件上部署模型。

pip install -U huggingface_hub
hf download Aleph-Alpha/Kolibri-1

如何使用：你向部署好的模型发送德语或英语文本，任务需要多个步骤时打开它的推理模式，你定义了工具时让它去调用。模型卡建议上下文不超过 262,144 token，以兼顾速度和复杂任务。

示例：你给模型一份很长的德语报告，要求用英语写一份摘要并列出关键数字。开启推理后，它会通读报告并返回摘要。

新手与专家：先读模型卡，确认你的硬件够用，然后先试短的德语和英语提示词，再处理长文档。早期测试保持远低于建议的上下文长度。

这个模型是 50 层的 Transformer，每层有 384 个专家，其中 1 个共享、6 个路由，注意力层按 4 比 1 混合滑动窗口层和分组查询层。大部分注意力层只看附近的文本，这让长上下文成本可以接受。代价是内存，因为整个模型都必须加载。

发送德语或英语文本
路由器从 384 个专家中选 6 个
推理模式处理任务
返回回答或工具调用

注意事项：

• License: Apache 2.0
• Cost to run: 没有提到费用，但模型卡列出的硬件如 2 块 H100
• Data it reaches: 从 Hugging Face 下载文件，之后在你部署它的地方运行
• Not for: 小型机器，因为模型权重需要约 78 GB
• Not for: 德语和英语以外的语言，模型卡只列出这两种

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：78.1B
• Weights: about 78.1 GB in F8_E4M3; about 39.1 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：13,319
• 点赞：1,011
• 许可证：apache-2.0
• 语言：de, en
• 基于：Aleph-Alpha/Kolibri-1-BF16
• Quantized versions: 28
• Fine-tunes: 8
• 标签：transformers, safetensors, kolibri1, text-generation, reasoning, conversational, fp8

链接

• 模型：https://huggingface.co/Aleph-Alpha/Kolibri-1
• 文件：https://huggingface.co/Aleph-Alpha/Kolibri-1/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Aleph-Alpha/Kolibri-1

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。