Comet 60B

Comet 60B

Multiverse Computing 的 61.1B 多模态模型，是 NVIDIA Nemotron 3.5 Super 的压缩版本，接收文本、图像和视频，并保持约 12B 参数被激活。适合想用更少 GPU 通过 vLLM 部署大型开放模型的团队。

由 MultiverseComputingCAI 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Comet 60B 是 Multiverse Computing 推出的多模态模型，基于 NVIDIA 的 Nemotron 3.5 Super VL 120B 构建。原模型是 Mamba2 加 Transformer 的混合专家模型。Multiverse 用它的 CompactifAI 压缩技术把参数量大约减半，到 61.1 billion，而每个 token 仍然激活约 12 billion。层结构、分词器和对话模板都没有变。压缩之后，团队用文本、图像和视频数据对原模型做蒸馏，让它恢复能力。它接收文本、图像和视频输入，输出文本，并支持可配置的推理和工具调用。

适合谁：适合在自己的 GPU 上运行大型开放模型、希望获得同一系列能力但内存需求更小的团队。也适合构建智能体、文档阅读器或视频和图像助手的开发者。

Title: 谁会用它
Industry | Who uses it | How they use it | Example
软件 | 平台工程师 | 用更少的 GPU 部署一个多模态模型 | 把四块 GPU 的配置换成两块
智能体 | 智能体构建者 | 在助手里使用推理和工具调用 | 让模型在任务中调用一个工具
媒体与文档 | 分析师 | 针对图像、文档和视频提问 | 总结一段视频，或读一页扫描件

如果你没有 GPU 服务器，可以跳过它。仅 BF16 文件就有 122.3 GB。

用在哪里：Hugging Face 的记录列出了 transformers 库。模型卡说，这个模型使用与基础模型相同的 vLLM 推理和工具解析器，并用多 token 预测做推测解码。

• vLLM，使用与基础模型相同的解析器
• 带 transformers 的 Python
• GPU 服务器，因为模型卡用 H200 卡来衡量它

Title: 它能做的事
Use case | Who | What they get back
图像和视频问答 | 分析师 | 关于图片和视频片段的文字回答
智能体任务 | 开发者 | 会推理并调用工具的回复
长推理 | 研究者 | 带可配置推理模式的回答

如何设置：你需要带 pip 的 Python 和一台 GPU 内存很大的服务器。模型卡说，BF16 版本在两块 H200 GPU 上就能运行，而基础模型需要四块，FP8 版本在单块 H200 上就能放下。模型卡能看到的部分只给了下载步骤，没有运行命令，所以服务部署请按模型卡的快速上手操作。

• 带 pip 的 Python
• 放得下你所选格式的 GPU 内存，文件从 40.5 GB 到 122.3 GB
• 按模型卡的描述，用 vLLM 提供服务

1. 安装 Hugging Face 的下载工具。
2. 选 BF16、FP8 或 NVFP4 版本。
3. 下载它，并按模型卡用 vLLM 提供服务。

pip install -U huggingface_hub
hf download MultiverseComputingCAI/Comet_60B_A12B_BF16

如何使用：向已部署的模型发送文本、图像或视频请求，并按模型卡的说明开启或关闭推理。做工具调用时，使用与基础模型相同的工具解析器。模型卡涵盖三种格式，除非某一节另有说明，否则描述的是 BF16 版本。

Title: Comet 60B 与它的基础模型对比
Property | Nemotron 3.5 Super VL | Comet 60B
总参数量 | 124.5B | 61.1B
每个 token 激活的参数 | 12.8B | 12.3B
每层路由专家数 | 512 | 256

示例：你在两块 H200 GPU 上部署 BF16 版本，发给它一张收据的照片，请它列出商品。模型读取图像，并把清单作为文本返回。模型卡说，在同样四块 GPU 上，它在 NVIDIA 的聊天和智能体测试轨迹上，每秒输出的 token 比原模型多 20 到 23 个百分点。

新手与专家：如果你是新手，这是一个被缩小、因此需要更少 GPU 的大模型。它需要服务器硬件，所以如果只是想看看它能做什么，先试托管版本。

如果你熟悉这个领域，每个混合专家层里激活 256 个路由专家中的 22 个，再加一个共享专家，基础模型则是 512 个里的 22 个。模型卡说，在 35 项得分里，有 28 项与原模型相差不到 3 分，并且在几项智能体基准上领先，包括 SWE-bench Pro 和 tau-squared 基准。

文本、图像或视频输入
压缩后的 61.1B 模型为每个 token 路由
约 12B 参数被激活
你得到文本、推理过程或工具调用

注意事项：模型卡提供同一个模型的三种格式。更小的那些面向较新的 NVIDIA GPU。

Title: 各格式的检查点大小，GB
BF16: 122.3
FP8: 66.3
NVFP4: 40.5

• License: OpenMDW 1.1，模型卡说在这些条款下可以商用
• Cost to run: 未提及，模型卡用 H200 GPU 来衡量
• Data it reaches: 来自 Hugging Face 的模型文件，以及你发给它的文本、图像和视频
• Not for: 单块小 GPU，或需要原模型精确权重的场景

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：61.1B
• Weights: about 122 GB in BF16; about 30.6 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：817
• 点赞：16
• 许可证：openmdw-1.1
• 语言：en
• Quantized versions: 3
• Fine-tunes: 3
• 标签：transformers, safetensors, nemotron_h_omni, image-text-to-text, conversational

链接

• 模型：https://huggingface.co/MultiverseComputingCAI/Comet_60B_A12B_BF16
• 文件：https://huggingface.co/MultiverseComputingCAI/Comet_60B_A12B_BF16/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download MultiverseComputingCAI/Comet_60B_A12B_BF16

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。