GLM-5.3-Flash-BF16

GLM-5.3-Flash-BF16

一个 320B 参数、激活 18B 的多模态模型，能读文字和图像，思考预算可调，用混合注意力设计处理长上下文。适合有像样 GPU 基础设施的团队。

由 zai-org 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：在 GLM-5 系列中，GLM-5.3-Flash 是第一个从一开始就为同时处理图像和文字而构建的模型。它总共有 320B 参数，每个词元只激活 18B，既能读图像也能读文字。这个仓库放着完整的 BF16 权重，约 643 GB。作者说它以十分之一的价格超过了 GLM-5.2，并在编程和智能体测试上接近一个领先的闭源模型。

适合谁：它适合有大型 GPU 服务器、想要一个能做编程、智能体和长文档、还能读图像的开放模型的团队。

行业 | 谁在用 | 怎么用 | 例子
软件开发 | 工程团队 | 运行大型开放模型做编程和智能体工作 | 一个能跨大型代码库工作的编程助手
AI 基础设施 | 服务部署工程师 | 用服务框架在 GPU 集群上部署 | 为内部用户托管这个模型
企业 | 应用团队 | 处理带图像和文字的长文档 | 阅读一份带图表的长报告
研究 | 模型研究人员 | 研究稀疏与线性注意力的混合结构 | 在一组任务上测试各个思考级别

如果你只有一块消费级 GPU，可以跳过它，因为完整权重约 643 GB，而且模型卡指向的是服务器级的部署工具。

用在哪里：

• SGLang、vLLM、TokenSpeed、KTransformers 或 Unsloth 来部署，模型卡列出了这些
• Transformers 库
• 厂商的托管 API 平台，模型卡把它作为自己运行之外的另一种选择
• Windows、macOS 或 Linux，下载需要 Python

用途 | 适合谁 | 得到什么
编程和智能体任务 | 开发者 | 模型给出的代码和多步动作
图像加文字的提问 | 分析人员 | 同时利用图片和文字的回答
长上下文工作 | 研究人员 | 以较低的部署成本得到针对长输入的回复
调整思考力度 | 应用构建者 | 按需选择低、高或最大的推理

如何设置：

• 为 320B 模型准备的 GPU 服务器，因为 BF16 权重约 643 GB
• 下载用的 Python 和 pip
• 一个部署框架或 Transformers 库
• 存放超大文件的高速存储

1. 用 pip 安装 Hugging Face hub 软件包。
2. 下载仓库文件，它们非常大。
3. 按模型卡列出的某个框架自己的指南来部署模型。

pip install -U huggingface_hub
hf download zai-org/GLM-5.3-Flash-BF16

如何使用：你用一个受支持的框架来部署模型，然后和它对话。有两个设置很重要，模型卡说明了用法。

工具 | 作用
reasoning_effort | 把思考预算设为 low、high 或 max，默认是 max
clear_thinking | 默认是 false，模型卡说聊天使用时要传入 true

示例：一个团队部署了模型，发去一张图表图片并就它提问。遇到难题时，他们把思考级别保持在 max。因为是聊天场景，他们把 clear_thinking 设为 true。模型同时利用图像和文字作答。

新手与专家：如果你是新手，这个模型需要服务器级硬件，所以先通过厂商的托管 API 或较小的模型来试。下载之前先读你所用框架的部署指南。

如果你熟悉这个领域：模型卡介绍了一种稀疏与线性注意力的混合结构，能降低长上下文的部署成本，还有为提高扩展效率而用的流形约束超连接。它是在 30T 词元的多模态语料上训练的。复现基准测试时，模型卡说要保持默认的 max 思考级别。

下载 BF16 权重
选择部署框架
设置思考级别
发送文字或图像并提问
读取回答

注意事项：

• Limits: 模型卡没有写最低硬件要求，仅权重就约 643 GB。
• Claims: 价格和基准测试的对比来自作者。
• Settings: reasoning_effort 对 low 和 high 之外的任何值都回落到 max。
• License: MIT。
• Cost to run: 没有提到价格，模型卡把厂商的托管 API 作为自己的服务器之外的另一种选择。
• Data it reaches: 它把超大的模型文件复制到你的电脑，并读取你给它的文字和图像。

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：321B
• Weights: about 643 GB in BF16; about 161 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：68,087
• 点赞：85
• 许可证：mit
• 语言：en, zh
• Quantized versions: 41
• Fine-tunes: 5
• 标签：transformers, safetensors, glm5_next, image-text-to-text, conversational

链接

• 模型：https://huggingface.co/zai-org/GLM-5.3-Flash-BF16
• 文件：https://huggingface.co/zai-org/GLM-5.3-Flash-BF16/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download zai-org/GLM-5.3-Flash-BF16

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。