Agaram 2.5B

Agaram 2.5B

能用泰米尔文、罗马化泰米尔语和英语聊天，也能在泰米尔语和英语之间翻译。这是 Murai Labs 从零训练的 2.5B 模型，适合泰米尔语使用者、研究人员和开发者。

由 murai-labs 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Agaram 2.5B 是一个面向泰米尔语和英语的聊天模型，有 25 亿参数。它由 Murai Labs 和 Ramchand Kumaresan 从零训练，模型卡说它没有使用其他模型的权重。它是一个非营利的研究模型，用于用泰米尔文、罗马化泰米尔语和英语聊天，也用于泰米尔语和英语之间的翻译。这个仓库放的是聊天版本，由预训练基础模型经过一次监督微调得到。

适合谁：如果你是泰米尔语使用者，或者是泰米尔语工具的开发者，想要一个小模型在同一个地方处理泰米尔文、罗马化泰米尔语和英语，它适合你。

行业 | 谁在用 | 怎么用 | 例子
教育 | 泰米尔语学习者和老师 | 用泰米尔语或罗马化泰米尔语聊天和练习 | 用罗马化泰米尔语提一个问题，并阅读回复
语言技术 | 开发者 | 开发泰米尔语和英语的聊天或翻译功能 | 发送一句泰米尔语，请求英文版本
研究 | 语言研究人员 | 研究一个主要用泰米尔语数据从零训练的模型 | 测试它如何处理泰米尔语提示词

如果你需要其他语言或较长的输入，可以跳过它，因为模型卡只列出泰米尔语和英语，上下文最长 8,192 个令牌。

用在哪里：你在 Python 里通过 transformers 库运行它，系统可以是 Windows、macOS 或 Linux。模型卡还指向一个在线聊天演示，以及它 GitHub 项目里的聊天命令行工具。

• 使用 transformers 5.x 的 Python 脚本
• 装有 huggingface_hub 包的 Windows、macOS 或 Linux
• 模型卡链接的在线聊天演示

使用场景 | 谁用 | 得到什么
泰米尔语聊天 | 学习者和用户 | 泰米尔文、罗马化泰米尔语或英语的回复
翻译 | 开发者 | 泰米尔语译英语或英语译泰米尔语的文本
工具调用 | 开发者 | 固定格式的工具请求，结果以消息形式送回

如何设置：你需要 Python、5.x 版本的 transformers 库、torch，以及约 5.1 GB 空间存放 BF16 权重。模型卡说需要 5.x 格式才能存放旋转位置基数。

• Windows、macOS 或 Linux 上的 Python
• transformers 5.x 和 torch
• 约 5.1 GB 的可用空间

1. 安装 Hugging Face hub 包。
2. 下载模型文件。
3. 运行模型卡的 Python 示例。

pip install -U huggingface_hub
hf download murai-labs/agaram-2.5b-instruct

如何使用：加载分词器和模型，构造一条聊天消息，然后用贪心解码生成，最多 512 个新令牌。不需要系统提示词。停止令牌的 id 是 2。

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

repo = "murai-labs/agaram-2.5b-instruct"
tok = AutoTokenizer.from_pretrained(repo)
model = AutoModelForCausalLM.from_pretrained(repo, dtype=torch.bfloat16, device_map="auto")

messages = [{"role": "user", "content": "Pencil-la thappa ezhudhiten. Adhai azhikka edhai use pannalaam?"}]
ids = tok.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt", return_dict=True)["input_ids"]
out = model.generate(ids.to(model.device), max_new_tokens=512, do_sample=False, eos_token_id=2)
print(tok.decode(out[0, ids.shape[1]:], skip_special_tokens=True))

Tool | What it does
AutoTokenizer.from_pretrained | 加载为这个模型制作的分词器
AutoModelForCausalLM.from_pretrained | 以 bfloat16 加载权重
apply_chat_template | 构造聊天提示词，也接受用于工具调用的 tools 列表
generate | 用贪心解码生成回复

示例：你发送模型卡里那个罗马化泰米尔语的问题，问用什么擦掉铅笔写错的字。模型会以文本形式返回答案，由脚本解码并打印出来。

新手与专家：如果你刚接触，它就像一个听得懂泰米尔语的聊天助手，包括用英文字母打出来的泰米尔语。第一件小事是运行模型卡的示例脚本，然后换上你自己的问题。

如果你熟悉这个领域，它是一个 28 层的密集 Transformer，在每个模块之前做归一化，使用 RMSNorm、SwiGLU 层和旋转位置编码。它的配置借用了 Llama 类名，因为那段代码能加载这种设计。它有一个为它训练的 64,000 令牌的字节级 BPE 分词器，约 50B 预训练令牌，上下文为 4,096 个令牌，在衰减阶段和微调中提高到 8,192。

以泰米尔语为主的预训练数据
从零训练的基础模型
一次监督微调
泰米尔语和英语的聊天模型

注意事项：一部分聊天数据由一个开放权重的教师模型写成，模型卡在披露部分列出了例外情况。它的聊天命令行工具会加上危机求助资源的页脚。

Title: 按令牌占比划分的预训练数据构成
Tamil: 58.2 百分比
English: 19.8 百分比
Math: 10 百分比
Code: 7 百分比
Instruction: 3 百分比
Parallel text: 2 百分比

• License: Apache-2.0，上游数据条款见模型卡的说明
• Cost to run: 没有提到任何 API 密钥或付费服务，BF16 权重约 5.1 GB
• Data it reaches: 下载来自 Hugging Face，模型在你自己的机器上处理你给它的文本
• Not for: 泰米尔语和英语之外的语言，或超过它 8,192 令牌上下文的输入

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：2.5B
• Weights: about 5.1 GB in BF16; about 1.3 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：1,296
• 点赞：11
• 许可证：apache-2.0
• 语言：ta, en
• 基于：murai-labs/agaram-2.5b
• Quantized versions: 1
• 标签：transformers, safetensors, llama, text-generation, tamil, tanglish, agaram, chatml, from-scratch, conversational

链接

• 模型：https://huggingface.co/murai-labs/agaram-2.5b-instruct
• 文件：https://huggingface.co/murai-labs/agaram-2.5b-instruct/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download murai-labs/agaram-2.5b-instruct

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。