Raon-1 mini

Raon-1 mini

能聊天和推理，尤其擅长韩语，并可执行调用工具的智能体任务。这是一个 28.8B 的混合专家模型，每个词元激活 4.3B 参数，上下文 262,144 个词元。KRAFTON AI 的预览版本。

由 KRAFTON 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Raon-1 mini 是 KRAFTON AI 从零开始训练的混合专家语言模型。它总共有 28.8B 参数，每个词元使用 4.3B。作者把韩语对话和智能体任务视为它的强项。这次发布是预览版，作者可能会在最终模型出现前调整数字。

适合谁：它适合想要一个韩语好、支持工具调用的开放模型、并且有能装下其压缩格式的 GPU 的开发者。

行业 | 谁在用 | 怎么用 | 例子
韩语产品 | 应用开发者 | 构建在韩语下表现好的聊天和助手功能 | 用韩语回答客户的问题
智能体开发 | 智能体开发者 | 通过 OpenCode 等智能体工具运行调用工具的工作流 | 让智能体在任务中调用一个工具
本地 AI 爱好 | 爱好者 | 在一张消费级 GPU 上用 NVFP4 运行中等规模的模型 | 在一张 RTX 5090 上聊天
研究 | 模型研究者 | 研究它的线性和完整混合注意力设计 | 测试最长 262,144 个词元的输入

如果你需要最终的稳定版本，可以跳过它，因为作者说这是预览版。

用在哪里：

• 使用 transformers 库的 Python
• 模型卡说它支持的智能体工具，即 Hermes Agent、Pi 和 OpenCode
• 一张带 32 GB 显存的 NVIDIA RTX 5090，使用 NVFP4 格式
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

用例 | 谁用 | 得到什么
韩语聊天 | 应用开发者 | 用韩语、英语和其他训练过的语言给出的对话式回答
智能体工具调用 | 智能体开发者 | 用于智能体工作流的工具调用输出
更快的生成 | 工程师 | 配合提供的 DFlash2 草稿模型做推测解码

如何设置：请准备 Python、下载工具，以及有空间放权重的 GPU，权重以 8 位浮点格式计为 28.8 GB。

• Windows、macOS 或 Linux 上的 Python
• huggingface_hub 包
• 用来运行模型的 transformers 库
• 内存足够的 GPU，或者给 32 GB 显卡用的 NVFP4 格式

1. 安装 huggingface_hub。
2. 把模型文件下载到你的电脑。
3. 按模型卡的运行部分加载它。

pip install -U huggingface_hub
hf download KRAFTON/Raon-1-mini-preview

如何使用：可见的模型卡给出了下载这一步，没有运行命令。加载之后，你可以和这个带内置思考的模型聊天，或把它接到智能体工具里做工具调用。曾有限时提供免费的托管体验区。

hf download KRAFTON/Raon-1-mini-preview

示例：你用韩语问模型一个问题。它先用内置的推理思考，再用韩语回复。在智能体工具里，它还可以调用工具并使用结果。

新手与专家：如果你刚接触这类模型，它是一个很大的模型，但每个词只唤醒其中一部分，所以速度较快。第一次可以试模型卡提到的托管体验区，如果它还开放的话。

对熟悉这个领域的人来说，它 25 层中的 18 层用 Raon Delta Attention，状态大小固定。7 个完整注意力层在 BF16 下每个词元的 KV 缓存约 8 KiB。每个词元使用 128 个路由专家中的 6 个，外加一个共享专家。

Title: 参数量，单位为十亿
Total: 28.8 billion
Active per token: 4.3 billion

你的提示词输入
路由器选出 6 个路由专家和 1 个共享专家
混合注意力层处理上下文
模型先思考，再回答或调用工具

注意事项：训练涉及七种语言：泰语、法语、西班牙语、中文、日语、英语和韩语，其中韩语最强。

• License: Apache 2.0
• Cost to run: 未提及
• Data it reaches: 你发送的提示词和下载的模型文件
• Not for: 当作最终模型使用，因为模型卡说规格和结果可能会变

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：28.8B
• Weights: about 28.8 GB in F8_E4M3; about 14.4 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：4,489
• 点赞：242
• 许可证：apache-2.0
• Quantized versions: 12
• Fine-tunes: 2
• 标签：transformers, safetensors, raon1_mini, text-generation, raon, conversational, mxfp8

链接

• 模型：https://huggingface.co/KRAFTON/Raon-1-mini-preview
• 文件：https://huggingface.co/KRAFTON/Raon-1-mini-preview/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download KRAFTON/Raon-1-mini-preview

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。