Inkling

Inkling

读取文字、图片和音频并写出文字，是一个庞大的开放多模态模型，适合编码助手、智能体和聊天机器人。适合有多 GPU 服务器或托管 API 的开发者。

由 thinkingmachines 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Inkling 是 Thinking Machines 的通用多模态模型。它接收文字、图片和音频，并写出文字，支持英语和其他语言，也覆盖多种编程语言。模型卡列出总共 975B 参数、41B 激活参数，采用稀疏混合专家结构。

适合谁：它适合构建编码助手、带工具的智能体和聊天机器人、并且有硬件或 API 途径来使用这么大模型的开发者。

行业 | 谁在用 | 怎么用 | 例子
软件开发 | 开发者 | 构建编码助手和使用工具的智能体 | 运行一个会调用外部工具的助手
客户支持 | 产品团队 | 构建能读文字、图片和音频的聊天机器人 | 一个回答截图相关问题的聊天机器人
媒体和会议 | 音视频团队 | 把录音转成书面文字 | 发送一段 WAV 录音并请它写摘要
AI 研究 | 模型研究者 | 对比大型开放权重多模态模型 | 阅读模型卡的基准表

如果你只有一张消费级显卡，可以跳过它，因为仅 BF16 权重就约 1,905 GB。

用在哪里：

• SGLang、vLLM、TokenSpeed、Unsloth 和 Hugging Face，模型卡为每一个都链接了配方页面
• Tinker Playground 和 Tinker Cookbook，用来试用或通过 API 调用
• 第三方推理服务商，模型卡说它们也提供 API 访问
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

用例 | 谁用 | 得到什么
编码帮助 | 开发者 | 写好的代码和解释
图片和音频提问 | 产品团队 | 关于图片或 WAV 录音的文字回答
智能体工作 | 智能体开发者 | 驱动工具调用的文字输出

如何设置：你需要 Python 来使用下载工具，还需要一台多 GPU 服务器。BF16 文件约 1,905 GB，4-bit 下估计约 476 GB。模型卡还链接了一个名为 Inkling-NVFP4 的 NVFP4 版本。

• Windows、macOS 或 Linux 上的 Python
• huggingface_hub 包
• 上面列出的一个运行环境
• 有数百 GB GPU 内存的服务器

1. 安装 huggingface_hub。
2. 下载模型文件，或者选 NVFP4 版本。
3. 按你的运行环境对应的配方来部署它。

pip install -U huggingface_hub
hf download thinkingmachines/Inkling

如何使用：可见的模型卡没有运行命令，只有每个运行环境的配方页面。模型部署好之后，你发送文字、图片或音频，读取它写回的文字。

输入 | 接受的形式
文字 | UTF-8 文字
图片 | 任何基于像素的格式，每边最好在 40 到 4096 像素之间
音频 | 16 kHz 的 WAV，最好不超过 20 分钟

示例：你发送一段会议的 WAV 录音，请它写摘要。模型读取音频，并把摘要写成文字。

新手与专家：如果你刚接触这类模型，它是一个庞大的助手，能读、能看、能听，然后用文字回答。第一次可以先用托管的试玩页面，因为自己运行需要一台大服务器。

对熟悉这个领域的人来说，它堆叠了 66 个解码器层。路由器把每个词元送到 256 个专家中的 6 个，另外 2 个共享专家会处理每一个词元。注意力混合了局部层和全局层。图片和视频经过分层的图块编码器，音频被编码成离散词元。

Title: 模型卡表格中 HLE 纯文本的分数
Inkling: 29.7%
Nemotron 3 Ultra: 26.6%
Kimi K2.5: 29.4%
Kimi K2.6: 35.9%
GLM 5.2: 40.1%
DeepSeek V4 Pro: 35.9%

你发送文字、图片或音频
模型对每种输入分别编码
稀疏专家网络处理这些词元
它写出文字回答

注意事项：分数来自作者，他们报告的 Inkling 是在 effort 0.99 下的结果，并把对比分数的日期标为 2026 年 7 月 14 日。表里还列出了在这项测试上排名更高的闭源权重模型。

• License: Apache 2.0
• Cost to run: 未提及，第三方服务商自己定条款
• Data it reaches: 你发送的文字、图片和音频，以及下载的文件
• Not for: 文字以外的输出，或没有服务器级 GPU 内存的机器

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：952B
• Weights: about 1,905 GB in BF16; about 476 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：1,583,506
• 点赞：1,847
• 许可证：apache-2.0
• Quantized versions: 47
• Fine-tunes: 16
• 标签：transformers, safetensors, inkling_mm_model, image-text-to-text, conversational, audio-text-to-text

链接

• 模型：https://huggingface.co/thinkingmachines/Inkling
• 文件：https://huggingface.co/thinkingmachines/Inkling/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download thinkingmachines/Inkling

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。