S5-nano

S5-nano

Maritaca AI 基于 Qwen3.5-4B 制作的葡萄牙语和英语小模型，有 Think 和 Instruct 两种模式，工具使用能力强，这是适用于 vLLM 和 SGLang 的 BF16 版本。适合构建巴西葡萄牙语助手的开发者。

由 maritaca-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：S5-nano 是 Maritaca AI 的小模型，在 Qwen3.5-4B 的基础上经过持续预训练和后训练得到。它能读图片和文字，输出文字，支持葡萄牙语和英语。模型卡说它在巴西基准上有提升，同时在函数调用、工具使用和结构化输出上依然出色。这个仓库放的是原始 BF16 权重，9.3 GB。

适合谁：为巴西葡萄牙语做助手的开发者，以及需要一个能调用工具并返回结构化输出的小模型的团队。

Industry | Who uses it | How they use it | Example
软件 | 巴西的开发者 | 用葡萄牙语构建聊天和智能体功能 | 用葡萄牙语回答客户问题
运营 | 自动化团队 | 让模型调用函数和工具 | 为另一个系统返回结构化输出
教育 | 学生 | 研究小模型的 Think 和 Instruct 模式 | 在同一个问题上对比两种模式
研究 | 语言研究人员 | 在巴西基准上测试模型 | 用自己的测试集来运行它

如果你需要超大模型，可以跳过它，因为它只有约 4B 参数。

用在哪里：

• vLLM 和 SGLang，用于这个 BF16 版本
• FP8 版本，用在原生支持 FP8 的 GPU 上，比如 Ada、Hopper 和 Blackwell
• llama.cpp 及兼容的应用，通过 GGUF 版本

Use case | Who | What they get back
葡萄牙语聊天 | 助手构建者 | 用巴西葡萄牙语写出的回复
工具调用 | 开发者 | 函数调用和结构化输出
直接回答 | 需要简短回复的应用 | Instruct 模式不经推理步骤直接作答

如何设置：

• Python 和 Hugging Face 工具
• 这个版本需要 vLLM 或 SGLang 这样的服务引擎
• 约 9.3 GB 磁盘用于 BF16 权重

1. 安装 Hugging Face hub 软件包。
2. 下载仓库文件。
3. 用 vLLM 或 SGLang 部署。如果你的硬件更适合，就选 FP8 或 GGUF 版本。

pip install -U huggingface_hub
hf download maritaca-ai/S5-nano

如何使用：选择一种模式。Think 是默认的，回答前先推理。Instruct 直接回答。这里的模型卡文字没有给出部署命令。

Tool | What it does
Think 模式 | 回答前先推理，是默认模式
Instruct 模式 | 不经推理步骤直接回答
MTP 层 | 支持推测解码
hf download | 把仓库文件复制到你的电脑

示例：让它用葡萄牙语，用简单的话解释一小段文字。在 Think 模式下它先推理再回答。在 Instruct 模式下它直接给出答案。

新手与专家：如果你是新手，先用 Instruct 模式快速得到答案，再用 Think 模式试一个更难的问题并对比。

如果你熟悉这个领域，FP8 副本把线性层的权重存成 E4M3，每个输出通道有一个缩放值。它还在运行时对每个 token 的激活做量化。MTP 层、视觉编码器、词嵌入和少数小的投影层保持 BF16 精度。

你发送文字或图片
Think 模式先推理
或者 Instruct 模式直接回答
模型写出回复

Title: 各版本的权重大小
BF16: 9.3 GB
FP8: 5.8 GB
GGUF BF16: 8.7 GB
GGUF Q8_0: 4.6 GB
GGUF Q4_K_M: 2.8 GB

注意事项：

• 上下文窗口最长可达 262,144 个 token。
• 模型卡说结果发布在 Maritaca 自己的结果网站上，这里的文字没有列出分数。
• Hugging Face 统计为 4.7B 参数，而模型卡称它是 4B 模型。
• License: apache-2.0。
• Cost to run: 没有提到，只需要你自己的硬件。
• Data it reaches: 你给它的文字和图片。来源没有提到账号或外部服务。
• Not for: 来源没有说明。

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：4.7B
• Weights: about 9.3 GB in BF16; about 2.3 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：1,357
• 点赞：77
• 许可证：apache-2.0
• 语言：pt, en
• Quantized versions: 9
• Fine-tunes: 1
• 标签：transformers, safetensors, qwen3_5, image-text-to-text, conversational

链接

• 模型：https://huggingface.co/maritaca-ai/S5-nano
• 文件：https://huggingface.co/maritaca-ai/S5-nano/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download maritaca-ai/S5-nano

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。