Mindket

Qwen2.5-0.5B

新上架第 1 版 · 更新于

概览

Qwen2.5 里最小的基础模型,约 4.94 亿参数,上下文 32,768 个词元,用来在你自己的数据上继续训练。适合想在微型语言模型上搭建的开发者。

Qwen2.5-0.5B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。

速览

你需要
  • Python 和 pip。
  • 较新的 transformers。低于 4.37.0 的版本会因为 qwen2 报 KeyError 而失败。
  • BF16 权重约 1 GB 的空间,4 位约四分之一,这是记录里的估算值。
用在
  • Python 里的 transformers 库,使用 Safetensors 权重。
  • 你自己的后训练流程,比如监督微调、RLHF 或继续预训练。
  • Windows、macOS 或 Linux:下载步骤在这三个系统上都能用 Python 完成。
先运行
pip install -U huggingface_hub
hf download Qwen/Qwen2.5-0.5B

平台

Windows操作系统
macOS操作系统
Linux操作系统

关于

它是什么

Qwen2.5-0.5B 是 Qwen 团队 Qwen2.5 系列里最小的预训练基础模型。这个系列从 5 亿到 720 亿参数。它是一个因果语言模型,有 24 层、14 个查询头和 2 个键值头,一次最多能读 32,768 个词元。它是基础模型,所以还没有被教过如何对话。

适合谁

想要一个很轻的模型来微调、快速测试,或放在小设备上的开发者和研究者。

行业谁在用怎么用例子
软件机器学习工程师为一项工作微调小模型训练它为你的应用输出 JSON
AI 研究研究者用紧凑的基础模型做快速实验几分钟内试一个新的训练想法
教育学生在普通硬件上学习语言模型训练在笔记本或免费 GPU 上微调它

想要下载后立刻就能聊得很好的模型的人可以跳过,因为说明页不建议用这个基础模型来对话。

用在哪里

  • Python 里的 transformers 库,使用 Safetensors 权重。
  • 你自己的后训练流程,比如监督微调、RLHF 或继续预训练。
  • Windows、macOS 或 Linux:下载步骤在这三个系统上都能用 Python 完成。
使用场景谁用得到什么
微调机器学习工程师适应你任务的小模型
结构化输出应用开发者偏向 JSON 或表格式回答的模型
研究基线研究者一个低成本的参照模型

如何设置

先准备好:

  • Python 和 pip。
  • 较新的 transformers。低于 4.37.0 的版本会因为 qwen2 报 KeyError 而失败。
  • BF16 权重约 1 GB 的空间,4 位约四分之一,这是记录里的估算值。
  1. 安装最新的 transformers。
  2. 用 pip 安装 Hugging Face hub 包。
  3. 用 hf 命令下载这个仓库。
pip install -U huggingface_hub
hf download Qwen/Qwen2.5-0.5B

如何使用

用 transformers 加载模型,并按你的用途继续训练。说明页这里没有给代码,所以加载和训练请看 Qwen 文档和 transformers 指南。

说明页提到的训练途径
工具作用
SFT用示例回答教模型
RLHF用人类反馈来调优
继续预训练在更多原始文本上继续训练

示例

你准备几千个杂乱文本配上干净 JSON 的例子,然后在这个模型上做监督微调。最后你得到一个小型提取器,能从你自己的文档里返回结构化数据。

新手与专家

基础模型只是读过文本,学会了预测下一个词。它没有被教过遵循指令。微调就是做这件事的那一步。一个好的第一步是用几十个例子微调,并比较前后的回复。

这个系列声称在知识、编程、数学、遵循指令、长文本和结构化输出上比 Qwen2 有提升,并支持 29 种以上语言。这些说法针对整个系列,说明页没有给出这个尺寸的分数。它的架构用了 RoPE、SwiGLU、RMSNorm、注意力里的 QKV 偏置和绑定嵌入,非嵌入参数为 0.36B。

  1. 下载基础模型
  2. 准备你自己的训练数据
  3. 用 SFT 或 RLHF 做后训练
  4. 在你的任务上测试结果

注意事项

记录估算了权重占用的空间。

权重大小,估算
BF16988 MB
4-bit247 MB
  • 上下文:这个模型完整为 32,768 个词元。
  • 版本:记录列出别人做的 118 个量化版本和 803 个微调版本。
  • 语言:记录里是英文,说明页提到整个系列支持 29 种以上语言。
  • License: apache-2.0
  • Cost to run: 没有提到 API 密钥、账号或付费服务。
  • Data it reaches: 你从 Hugging Face 下载的文件,以及你训练或运行它所用的文本。
  • Not for: 不经更多训练就当作现成的聊天助手使用。

README 和文件

README

Qwen2.5-0.5B

Qwen2.5 里最小的基础模型,约 4.94 亿参数,上下文 32,768 个词元,用来在你自己的数据上继续训练。适合想在微型语言模型上搭建的开发者。

由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么:Qwen2.5-0.5B 是 Qwen 团队 Qwen2.5 系列里最小的预训练基础模型。这个系列从 5 亿到 720 亿参数。它是一个因果语言模型,有 24 层、14 个查询头和 2 个键值头,一次最多能读 32,768 个词元。它是基础模型,所以还没有被教过如何对话。

适合谁:想要一个很轻的模型来微调、快速测试,或放在小设备上的开发者和研究者。

行业 | 谁在用 | 怎么用 | 例子
软件 | 机器学习工程师 | 为一项工作微调小模型 | 训练它为你的应用输出 JSON
AI 研究 | 研究者 | 用紧凑的基础模型做快速实验 | 几分钟内试一个新的训练想法
教育 | 学生 | 在普通硬件上学习语言模型训练 | 在笔记本或免费 GPU 上微调它

想要下载后立刻就能聊得很好的模型的人可以跳过,因为说明页不建议用这个基础模型来对话。

用在哪里:

  • Python 里的 transformers 库,使用 Safetensors 权重。
  • 你自己的后训练流程,比如监督微调、RLHF 或继续预训练。
  • Windows、macOS 或 Linux:下载步骤在这三个系统上都能用 Python 完成。
使用场景 | 谁用 | 得到什么
微调 | 机器学习工程师 | 适应你任务的小模型
结构化输出 | 应用开发者 | 偏向 JSON 或表格式回答的模型
研究基线 | 研究者 | 一个低成本的参照模型

如何设置:

先准备好:

  • Python 和 pip。
  • 较新的 transformers。低于 4.37.0 的版本会因为 qwen2 报 KeyError 而失败。
  • BF16 权重约 1 GB 的空间,4 位约四分之一,这是记录里的估算值。
  1. 安装最新的 transformers。
  2. 用 pip 安装 Hugging Face hub 包。
  3. 用 hf 命令下载这个仓库。
pip install -U huggingface_hub
hf download Qwen/Qwen2.5-0.5B

如何使用:

用 transformers 加载模型,并按你的用途继续训练。说明页这里没有给代码,所以加载和训练请看 Qwen 文档和 transformers 指南。

Title: 说明页提到的训练途径
工具 | 作用
SFT | 用示例回答教模型
RLHF | 用人类反馈来调优
继续预训练 | 在更多原始文本上继续训练

示例:

你准备几千个杂乱文本配上干净 JSON 的例子,然后在这个模型上做监督微调。最后你得到一个小型提取器,能从你自己的文档里返回结构化数据。

新手与专家:

基础模型只是读过文本,学会了预测下一个词。它没有被教过遵循指令。微调就是做这件事的那一步。一个好的第一步是用几十个例子微调,并比较前后的回复。

这个系列声称在知识、编程、数学、遵循指令、长文本和结构化输出上比 Qwen2 有提升,并支持 29 种以上语言。这些说法针对整个系列,说明页没有给出这个尺寸的分数。它的架构用了 RoPE、SwiGLU、RMSNorm、注意力里的 QKV 偏置和绑定嵌入,非嵌入参数为 0.36B。

下载基础模型
准备你自己的训练数据
用 SFT 或 RLHF 做后训练
在你的任务上测试结果

注意事项:记录估算了权重占用的空间。

Title: 权重大小,估算
BF16: 988 MB
4-bit: 247 MB
  • 上下文:这个模型完整为 32,768 个词元。
  • 版本:记录列出别人做的 118 个量化版本和 803 个微调版本。
  • 语言:记录里是英文,说明页提到整个系列支持 29 种以上语言。
  • License: apache-2.0
  • Cost to run: 没有提到 API 密钥、账号或付费服务。
  • Data it reaches: 你从 Hugging Face 下载的文件,以及你训练或运行它所用的文本。
  • Not for: 不经更多训练就当作现成的聊天助手使用。

Hugging Face 上的数据(2026年11月13日)

  • 任务:text generation
  • 框架:transformers
  • 参数量:494M
  • Weights: about 988 MB in BF16; about 247 MB at 4-bit (estimate)
  • Formats: Safetensors
  • 最近 30 天下载:1,163,625
  • 点赞:494
  • 许可证:apache-2.0
  • 语言:en
  • Quantized versions: 118
  • Fine-tunes: 856
  • 标签:transformers, safetensors, qwen2, text-generation, conversational

链接

  • 模型:https://huggingface.co/Qwen/Qwen2.5-0.5B
  • 文件:https://huggingface.co/Qwen/Qwen2.5-0.5B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件:

pip install -U huggingface_hub
hf download Qwen/Qwen2.5-0.5B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。

文件
README.md  5 KB

1 个文件,共 5 KB,以 zip 压缩包下载。

更新内容

  • 第 1 版 · 2026-11-13

同类产品对比

同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。

产品最近 30 天下载点赞参数量许可证最近更新
Qwen2.5-0.5B 本页1,163,625494494Mapache-2.0
Qwen2.5-7B-Instruct共有 qwen2 · text-generation · conversational6,364,2382,4947.6Bapache-2.0
Qwen2.5-1.5B-Instruct共有 qwen2 · text-generation · conversational5,181,5159411.5Bapache-2.0
Qwen2.5-0.5B-Instruct共有 qwen2 · text-generation · conversational4,292,272743494Mapache-2.0
Qwen2.5-Coder-14B-Instruct共有 qwen2 · text-generation · conversational1,860,32721414.8Bapache-2.0
Qwen2.5-7B-Instruct-AWQ共有 qwen2 · text-generation · conversational1,578,054637.6Bapache-2.0
数据为 Mindket 在 2026-11-12 至 2026-11-13 期间读取的数值。

评价

还没有评分

写评价

还没有评价。

大家怎么说

Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。

spottedmarleyShow HN: IttyBittyAI – Qwen2.5:0.5B running on a 2017 Asus smartphoneRummaging through some boxes of old stuff, I found one of my old smart phones. It's an Asus Zenfone 4 Max (ZC554KL, Snapdragon 430, 8x Cortex-A53, 3 GB RAM, 32 GB storage) that I bought back in 2017 and so it's been sitting in a box for ~8 or 9 years. Still works! So I thought I'd give it a chance…2 分Luke OntarioSo. On the same benchmarks, Qwen2.5-0.5b scores 81%, and Drummer-0.6b scores 71%. That Qwen is a year and a half old, but this was trained with 1,659 times fewer tokens and even less electricity. To take it further requires a jump in computing that I do not want to invest in. Not sure what to do.7 赞 · 3 条回复alebal123balShow HN: Dual YOLOv8n UAV Detection on RK3588S at 42 FPS Using NPUI built this while trying to understand how much of the RK3588S vision pipeline could be kept off the CPU. The main trick is not the YOLO model itself, but the pipeline structure: MIPI capture through the ISP, resize/color conversion through RGA, and YOLOv8n inference through all 3 NPU cores with…Zero WhiteSora AI — Voice Demo 🤖💬 I recently pushed the Improved Training Edition, upgrading the base model to Qwen/Qwen2.5-0.5B-Instruct and adding reliable Edge TTS voice generation. Check here: github.com/NivairaaWhit... #AI #BuildInPublic #MachineLearning #Dev #OpenSource #LocalLLM3 赞molchanovartemI fine-tuned a 0.5B LLM to classify support tickets for $10/monthHi HN, I built a support ticket classifier using a fine-tuned Qwen2.5-0.5B model. It determines intent, category, urgency, sentiment, and routing — all in a single inference. *Why I built this:* A company needed to automate ticket routing but couldn't use cloud LLM APIs due to data privacy…@aichina.newsA 0.5B Qwen in ONNX under MIT is a sensible shape for Ryzen AI edge work — but the model card is a stub, with no benchmarks, prompt format or evidence it actually hits the NPU. Until AMD publishes a compatibility matrix, hard to see this beating a plain llama.cpp build on the same laptop.1 赞Cheer2171Ollama Web SearchYour regular reminder that you don't need ollama to get a quick chat engine on the command line, you can just do this with pretty much any major model on huggingface: pip install transformers transformers chat Qwen/Qwen2.5-0.5B-Instruct@aichina.newsPre-split ONNX Qwen2.5-0.5B for Ryzen AI's NPU/GPU hybrid kills the export faff, and MIT makes embedding painless. But the card's a stub: no quantisation levels, no latency, no footprint. Can't back this for a Copilot+ build until AMD ships real numbers.robbruTiny-LLM – a course of serving LLM on Apple Silicon for systems engineersHey Nico, Very cool to hear your perspective in how you are using the small LLMs! I’ve been experimenting extensively with local LLM stacks on: • M1 Max (MLX native) • LM Studio (GLM, MLX, GGUFs) • Llama.cp (GGUFs) • n8n for orchestration + automation (multi-stage LLM workflows) My emerging use…@aichina.newsA 0.5B Qwen in int4 ONNX is the right shape for CPU inference — but the card is near-empty, no benchmarks, and the licence says only "other". Hard to justify shipping this over a llama.cpp quant you can actually audit. Anyone deployed it and got a real latency number?sunshine-oA hackable AI assistant using a single SQLite table and a handful of cron jobsThis is brilliant ! I am wondering, how powerful the AI model need to be to power this app? Would a selfhosted Llama-3.2-1B, Qwen2.5-0.5B or Qwen2.5-1.5B on a phone be enough?@aichina.newsA pre-converted 0.5B Qwen for Ascend NPUs under Apache 2.0 genuinely skips Huawei's toolchain. But no CANN version, no precision, no silicon list, and 4K context against upstream's 32K. Hard to see this saving time until the hardware list ships.

搜索日期

Mindket 的更多商品

查看 Mindket 的全部商品

DeepSeek-R1-GGUF

unsloth · 工具包

671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。

新上架

Axion-1.0-35B-GGUF

prithivMLmods · 工具包

提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。

新上架

HEART

Phips · 工具包

用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。

新上架

开发类的相似商品

查看开发类的全部商品

Bonsai-27B-GGUF

lmstudio-community · 工具包

面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。

新上架

以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。

新上架

MusicGen Small

facebook · 工具包

根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。

新上架