ALLaM-7B-Instruct-preview

ALLaM-7B-Instruct-preview

用阿拉伯语和英语回答问题、遵循指令。这是沙特数据与人工智能管理局（SDAIA）下属国家人工智能中心从零训练的 7B 模型，适合构建阿拉伯语工具的开发者和研究人员。

由 humain-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：ALLaM-7B-Instruct-preview 是一个面向阿拉伯语和英语的 7B 指令微调语言模型，由 SDAIA 的国家人工智能中心打造。它是从零训练的，先用 4T 英语 token，再用 1.2T 阿拉伯语和英语混合 token，模型卡说这样的安排保住了它的英语能力。它的目标是加快阿拉伯语语言技术的研究和产品工作。

适合谁：适合构建阿拉伯语或双语助手、想要一个可以测试和扩展的基础模型的开发者和研究人员。模型权重采用 Apache 2.0 许可证。

Industry | Who uses it | How they use it | Example
语言技术 | 研究人员 | 研究并扩展阿拉伯语模型的能力 | 测试阿拉伯语问答
客户服务 | 产品团队 | 构建阿拉伯语和英语双语助手 | 用阿拉伯语回答的客服机器人
内容 | 内容团队 | 起草阿拉伯语的解释和回答 | 用阿拉伯语讲解一项家务

如果你想要成品、经过安全检查的产品，可以跳过它，因为模型卡说这个模型只是更大系统里的一个部件，开发者必须自己加上安全措施。

用在哪里：

• 使用 transformers 库的 Python，模型卡在 4.40.1 或更新版本上测试过
• 一块 CUDA GPU，模型卡的示例会把模型加载到它上面
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

Use case | Who | What they get back
阿拉伯语问答 | 应用开发者 | 用阿拉伯语写成的回答
双语聊天 | 产品团队 | 阿拉伯语或英语的回复
研究基线 | 研究人员 | 一个从零训练的阿拉伯语和英语模型，供测试

如何设置：

• Python 和 transformers 软件包，版本 4.40.1 或更新
• 一块 CUDA GPU
• 为权重留出空间，BF16 约 14 GB

1. 安装 Python，以及 4.40.1 或更新版本的 transformers。
2. 用下面第一条命令安装 huggingface_hub 软件包。
3. 用第二条命令下载模型文件。
4. 如果需要特定版本，通过 revision 设置选择较早的版本或最新版本，即 v1 或 v2。

pip install -U huggingface_hub
hf download humain-ai/ALLaM-7B-Instruct-preview

如何使用：模型卡的代码会加载模型和分词器，用聊天模板包装一个阿拉伯语问题，并在 GPU 上生成回复。它用 id ALLaM-AI/ALLaM-7B-Instruct-preview 指代模型，如果两者不同，请换成你下载的仓库。

from transformers import AutoModelForCausalLM, AutoTokenizer
allam_model = AutoModelForCausalLM.from_pretrained("ALLaM-AI/ALLaM-7B-Instruct-preview")
tokenizer = AutoTokenizer.from_pretrained("ALLaM-AI/ALLaM-7B-Instruct-preview")
messages=[
    {"role": "user", "content": "كيف أجهز كوب شاهي؟"},
]
inputs = tokenizer.apply_chat_template(messages, tokenize=False)
inputs = tokenizer(inputs, return_tensors='pt', return_token_type_ids=False)
inputs = {k: v.to('cuda') for k,v in inputs.items()}
allam_model = allam_model.to('cuda')
response = allam_model.generate(**inputs, max_new_tokens=4096, do_sample=True, top_k=50, top_p=0.95, temperature=.6)
print(tokenizer.batch_decode(response, skip_special_tokens=True)[0])

这个模型在没有预设系统提示词时效果最好，不过你可以自己添加，用英语或阿拉伯语都行。模型卡给了一句话，让它扮演英语和阿拉伯语双语助手。系统提示词存放在分词器配置里，通过聊天模板读取。

示例：你像模型卡的代码那样，用阿拉伯语问怎样泡一杯茶。模型用阿拉伯语作答，最多允许生成 4,096 个新 token。

新手与专家：这是用来构建阿拉伯语工具的基础，不是成品聊天应用。一个好的起步是用阿拉伯语问题运行上面的代码，读一读回复。

模型卡描述了 ALLaM 系列的两条训练路径，即从零预训练和基于开源权重模型的继续训练，这个版本走的是第一条。它在 5.2 万亿 token 上训练，代码库基于 NVIDIA Megatron-LM，平均 MFU 约 42%，使用 bf16 混合精度。后期训练用了 7M 条指令和 260K 对偏好数据，上下文长度是 4096 token。

在 4T 英语 token 上预训练
在 1.2T 阿拉伯语和英语 token 上预训练
在 7M 条指令上调优
在 260K 对偏好数据上调优
用阿拉伯语或英语聊天

注意事项：

• License: Hugging Face 的记录是 Apache 2.0，模型卡指向它的 LICENSE 文件
• Cost to run: 未提及
• Data it reaches: 下载时从 Hugging Face 获取文件，来源没有提到其他内容
• 这是预览版，模型卡要求开发者加上安全措施，尤其是在连接外部工具时

Title: 各阶段的预训练 token 数，单位万亿
English stage: 4 T
Arabic and English stage: 1.2 T

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：7B
• Weights: about 14 GB in BF16; about 3.5 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：93,626
• 点赞：207
• 许可证：apache-2.0
• 语言：ar, en
• Quantized versions: 15
• Fine-tunes: 29
• 标签：transformers, safetensors, llama, text-generation, pytorch, conversational

链接

• 模型：https://huggingface.co/humain-ai/ALLaM-7B-Instruct-preview
• 文件：https://huggingface.co/humain-ai/ALLaM-7B-Instruct-preview/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download humain-ai/ALLaM-7B-Instruct-preview

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。