GigaChat3.5-432B-A28B

GigaChat3.5-432B-A28B

用于俄语和英语的对话、代码、推理和工具调用文本生成。这是一个 432B 的混合专家模型，激活参数 28B，适合能自行部署大模型的团队。

由 ai-sage 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：GigaChat 3.5 Ultra 是 ai-sage 推出的大语言模型，用于助手对话、推理、代码和工具调用类任务的文本生成。它是混合专家（Mixture-of-Experts）模型，总参数 432B，每个 token 激活 28B。它支持俄语和英语。模型卡称它比 700B 的 GigaChat 3.1 Ultra 小约 40%，在代码、数学和智能体任务上更胜一筹。

适合谁：自己部署大型开放权重模型、需要俄语和英语回答的团队最适合。开发编程助手或会调用工具的智能体的开发者也能用，研究注意力结构的研究人员同样可以。

行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 放在编程助手或会调用工具的智能体后面运行 | 让它解释一个函数并给出修改建议
研究 | 机器学习研究人员 | 研究混合注意力设计，并与其他大模型对比 | 阅读模型卡里的架构部分和基准表
托管 | 基础设施团队 | 在大型集群上部署 fp8 权重 | 试用两个预测头，看回复有多快
语言服务 | 使用俄语和英语的团队 | 搭建能用任一语言回答的助手 | 用俄语或英语回复的客服机器人

如果你只想在笔记本上跑一个小模型，可以跳过它，因为光权重就约 434 GB。

用在哪里：只要能下载文件并部署这个规模的模型，它就能运行。

• Windows、macOS 或 Linux：用 Python 和 Hugging Face 工具下载文件。
• 大型集群：模型卡面向集群部署，使用 fp8 推理。
• 助手和智能体应用：模型卡提到多语言助手和工具调用场景。
• 代码工作流：代码是模型卡点名的目标场景之一。

使用场景 | 谁用 | 得到什么
多语言助手 | 产品团队 | 俄语或英语的回复
代码协助 | 开发者 | 模型写出的代码和解释
智能体步骤 | 智能体开发者 | 工具调用循环中模型的文本输出
研究对比 | 机器学习研究人员 | 一个可与其他模型对照的大型开放模型

如何设置：开始前你需要准备三样东西。

• 装有 Python 的 Windows、macOS 或 Linux
• 约 434 GB 的空闲磁盘放 fp8 权重，4-bit 约 217 GB，这是估算值
• 能跑 432B 模型的硬件，因为模型卡面向大型集群部署

1. 没有 Python 的话先安装。
2. 安装 Hugging Face hub 库。
3. 用 hf 命令下载模型文件。
4. 按模型卡运行权重，运行步骤写在那里。

pip install -U huggingface_hub
hf download ai-sage/GigaChat3.5-432B-A28B

如何使用：文件下载到磁盘后，按模型卡的说明在你自己的推理环境里加载，然后用俄语或英语发送提示词。下面的命令会下载 fp8 模型文件，表里列出模型卡指向的其他版本。

hf download ai-sage/GigaChat3.5-432B-A28B

Tool | What it does
GigaChat3.5-432B-A28B-bf16 | 同一个模型的 bf16 精度版本
GigaChat3.5-432B-A28B-GGUF | 模型的 GGUF 版本
GigaChat3.5-432B-A28B-base | 用于训练的基础版本
GigaChat3.5-432B-A28B-checkpoints | 训练检查点

示例：你问：“写一个 Python 函数，去掉文本文件里的重复行。”模型会以文字返回这个函数，并附上一句简短的说明。

新手与专家：这样的语言模型读取你的文字并写出回复，所以它是聊天助手里负责回答的部分。它体积庞大。第一件可以试的小事，是打开模型页面，把列出的文件大小和你的空闲磁盘对比一下。

每个 token 只有 432B 参数中的 28B 在工作，所以部署成本远低于同等大小的稠密模型。部分层使用 Multi-head Latent Attention，其余层使用 GatedDeltaNet 线性注意力，这降低了长上下文的成本。模型卡称，每个 token 的 KV-cache 比 3.1 Ultra 少约 4 倍，生成吞吐量高约 20%。两个 Multi-Token Prediction 头可把贪心解码最多加速 2.2 倍。训练全程使用原生 FP8，对齐经过 SFT、DPO 和在线 RL。代价是体积，光权重就约 434 GB。

下载 fp8 权重
在你自己的硬件上加载
混合注意力层读取你的提示词
每个 token 只用 432B 中的 28B 参数
两个 MTP 头加快解码
回复文字返回给你

注意事项：模型卡里的分数针对基础模型，不是这个对话版本，比较的是通用任务的平均成绩。

• 精度：这个仓库存放 fp8 权重，bf16 副本在另一个仓库。
• 语言：记录里列出俄语和英语。
• 其他版本：记录显示有一个由他人制作的量化版本。

Title: 通用任务上基础模型的平均分
GigaChat 3.1 Base (700B): 69.6 分
GigaChat 3.5 Ultra Base (430B): 72.3 分
DeepSeek V4 Flash Base (284B): 71.9 分
DeepSeek V3.2 Exp Base (685B): 71.5 分

• License: MIT。
• Cost to run: 没有提到 API 密钥、账号或付费服务，但权重需要约 434 GB 磁盘和大型硬件。
• Data it reaches: 它会从 Hugging Face 下载文件，模型在你自己的机器上运行。
• Not for: 来源没有列出禁止的用途，完整权重需要约 434 GB。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 参数量：434B
• Weights: about 434 GB in F8_E4M3; about 217 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：654
• 点赞：84
• 许可证：mit
• 语言：ru, en
• 基于：ai-sage/GigaChat3.5-432B-A28B-base
• Quantized versions: 1
• 标签：safetensors, gigachat3_5, instruct, multilingual, long-context, tool-use, hybrid-attention, linear-attention, text-generation, conversational, fp8

链接

• 模型：https://huggingface.co/ai-sage/GigaChat3.5-432B-A28B
• 文件：https://huggingface.co/ai-sage/GigaChat3.5-432B-A28B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download ai-sage/GigaChat3.5-432B-A28B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。