Raon-1 nano

Raon-1 nano

用韩语和英语生成文本、遵循指令、保持对话上下文并调用工具。一个 3.1B 参数、上下文 262,144 个 token 的语言模型，适合开发者和设备端应用。

由 KRAFTON 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：KRAFTON AI 把 Raon-1 nano 做成了一个紧凑的语言模型。模型卡把 1.5B 参数算作有效参数，整体为 3.1B，因为逐层嵌入表增加了 1.5B。它能用韩语和英语遵循指令、跟踪对话，并选择合适的工具来调用。它属于 Raon 开源模型系列。

适合谁：它适合想要一个能在设备上运行的小型韩英双语模型的开发者，以及研究其架构的研究者。

Title: 谁可能用到它
行业 | 谁在用 | 怎么用 | 例子
移动应用 | 应用开发者 | 在设备上运行小模型，用于聊天和调用工具 | 通过对话控制手机功能
办公软件 | 开发者 | 加入韩语和英语的指令跟随聊天 | 一个为日常办公任务调用工具的助手
韩语产品 | 产品团队 | 构建韩语对话功能 | 应用里的韩语聊天助手
AI 研究 | 研究者 | 研究混合注意力设计和剪枝方法 | 阅读模型卡上的架构和训练说明

需要图像或音频输入的人可以跳过，因为它是文本生成模型。

用在哪里：

• 使用 transformers 库的 Python：模型就是为它发布的
• 本地推理格式：GGUF、MLX 和 LiteRT-LM，包括 Apple silicon
• Windows、macOS 或 Linux：用 Python 下载文件

Title: 它能做的事
用途 | 适合谁 | 得到什么
对话 | 开发者 | 保持上下文的韩语或英语回复
遵循指令 | 产品团队 | 与所给指令相符的文本
调用工具 | 应用开发者 | 在对话中选出要用的工具

如何设置：你需要先准备：

• Windows、macOS 或 Linux 上的 Python
• 约 7.1 GB 的 BF16 权重存储空间，4-bit 时估计为 1.8 GB

1. 安装 Hugging Face hub 软件包。
2. 下载模型文件。
3. 按照模型卡上的运行步骤操作，其中包括加载和输入提示词。

pip install -U huggingface_hub
hf download KRAFTON/Raon-1-nano

如何使用：下载完成后，用 transformers 加载模型，或使用某种设备端格式，然后用韩语或英语给它发送提示词。这条命令用来获取文件。

hf download KRAFTON/Raon-1-nano

模型以文本作答。在对话中它可以调用工具，模型卡把这和办公、手机控制等日常任务联系在一起。具体的加载步骤在模型卡里。

示例：你用韩语让它按一条简短的指令办事，比如把一段笔记改写得更礼貌，然后继续就这件事聊下去。它以文字回复，并记得前面的对话。

新手与专家：如果你刚接触，可以把它看作一个会说韩语和英语的小型聊天模型。下载后，试一条简短的指令，看看它怎么回复。

如果你熟悉这个领域，模型卡描述了一个 24 层的混合结构，其中 18 层用线性注意力，另外 6 层用完整注意力。每一层都加了一个小的嵌入，并让输出头与输入嵌入共享。只有这 6 层存储 KV 缓存，BF16 下每个 token 约占 7 KiB。它由 Raon-1 mini preview 剪枝而来，再用 3T 个 token 继续训练，随后经过监督微调、在线策略蒸馏和强化学习。模型卡说，在遵循指令、保持上下文和韩语对话的测试中，它胜过与之比较的模型。

下载权重
用 transformers 或设备端格式加载
发送韩语或英语提示词
得到文本或工具调用

注意事项：模型卡列出的上下文长度是 262,144 个 token，词表有 259,840 项。

Title: 权重大小，单位 GB
BF16: 7.1 GB
4-bit 估计值: 1.8 GB

• License: apache-2.0
• Cost to run: 未提及
• Data it reaches: 只有你给它的提示词，没有提到任何外部服务

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：3.5B
• Weights: about 7.1 GB in BF16; about 1.8 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：446
• 点赞：77
• 许可证：apache-2.0
• Quantized versions: 5
• Fine-tunes: 1
• 标签：transformers, safetensors, raon1_nano, text-generation, raon, conversational

链接

• 模型：https://huggingface.co/KRAFTON/Raon-1-nano
• 文件：https://huggingface.co/KRAFTON/Raon-1-nano/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download KRAFTON/Raon-1-nano

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。