phi-2

phi-2

一个小型文本生成模型，能回答问题、续写对话并补全代码。适合想用紧凑开放模型做安全研究和实验的研究人员与开发者。

由 microsoft 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Phi-2 是微软推出的小型 Transformer 语言模型，约有 27 亿参数。它根据提示词写文本，支持问答、聊天和代码三种格式。它的训练数据与 Phi-1.5 相同，另外加入了合成的 NLP 文本和经过筛选的网站内容。它没有用人类反馈强化学习做过微调。

适合谁：如果你想用一个小型、没有限制的模型研究毒性、偏见和可控性，或者在普通硬件上测试想法，它很适合研究人员和开发者。

行业 | 谁在用 | 怎么用 | 例子
AI 安全研究 | 研究团队 | 在小型开放模型上研究毒性、社会偏见和可控性 | 考察模型对有风险的提示词如何反应
教育 | 老师和学生 | 在本地运行小模型，了解提示词怎么起作用 | 并排尝试问答、聊天和代码提示词
软件 | 开发者 | 为代码补全或问答做原型 | 根据注释补全一个 Python 函数

如果是生产用途，可以跳过它，因为模型卡说它没有针对任何生产级应用做过测试。

用在哪里：

• 使用 transformers 库的 Python 脚本，版本 4.37.0 或更高
• Windows、macOS 和 Linux
• GPU，因为模型卡的示例代码把 cuda 设为默认设备

用途 | 谁用 | 得到什么
问答 | 研究人员 | 写在问题后面的回答
续写聊天 | 开发者 | 对话里的下一句回复
代码补全 | 开发者 | 注释后面的函数体

如何设置：

• 装有较新 transformers 库和 torch 的 Python
• 约 5.6 GB 磁盘空间存放 F16 权重，估计 4-bit 约 1.4 GB
• 运行模型卡示例代码需要 GPU

1. 安装 Hugging Face 工具。
2. 下载模型文件，或者让示例代码自己去取。
3. 运行示例代码，或者用三种格式之一写你自己的提示词。

pip install -U huggingface_hub
hf download microsoft/phi-2

如何使用：你用问答、聊天或代码格式写一条提示词，模型接着往下写。想要更短的回答，可以用 Instruct 加 Output 的格式。模型卡提醒 FP16 下可能出现注意力溢出，还说较旧的 transformers 版本需要把 trust_remote_code 设为 True。

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

torch.set_default_device("cuda")

model = AutoModelForCausalLM.from_pretrained("microsoft/phi-2", torch_dtype="auto", trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained("microsoft/phi-2", trust_remote_code=True)

outputs = model.generate(**inputs, max_length=200)
text = tokenizer.batch_decode(outputs)[0]
print(text)

格式 | 作用
Question | 一个独立的问题，答案写在它后面
Instruct and Output | 在 Output 标签后要求更简洁的回答
Chat | 用 Alice 和 Bob 这样的名字，模型写下一句回复
Code | 一个函数签名加注释，模型写函数体

示例：你让模型把数学比作灯塔，用 Instruct 一行加一个空的 Output 行。它会在 Output 标签之后接着写出一段简短的类比。请把结果当作起点，自己再检查。

新手与专家：Phi-2 是一个小模型，你开个头，它接着往下写。第一次尝试时，可以用模型卡里的灯塔提示词，再试一段两个有名字的人之间的简短聊天，看看它怎么接话。

如果你熟悉这个领域，要知道这是没有经过人类反馈强化学习的基础风格 Transformer。这让它成为安全研究里一个朴素的研究对象。要预料到模型卡描述的 FP16 注意力溢出，也要预料到它在代码和事实上的准确度限制。

用三种格式之一写提示词
分词器把它变成输入
模型生成新的 token
把 token 解码成文本
自己检查结果

注意事项：

• 准确度：模型可能写出错误的代码和错误的陈述，所以把输出当作起点。
• 生产：模型卡把未经评估的直接生产使用列为范围之外。
• 版本：模型卡要求 transformers 4.37.0 或更高。
• License: MIT。
• Cost to run: 未提及。
• Data it reaches: 它会从 Hugging Face 下载模型文件，并处理你提供的文本。
• Not for: 未经评估的生产使用，或者把它的回答当作定论。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：2.8B
• Weights: about 5.6 GB in F16; about 1.4 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：182,126
• 点赞：3,536
• 许可证：mit
• 语言：en
• Quantized versions: 64
• Fine-tunes: 416
• 标签：transformers, safetensors, text-generation, code

链接

• 模型：https://huggingface.co/microsoft/phi-2
• 文件：https://huggingface.co/microsoft/phi-2/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download microsoft/phi-2

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。