Nanosaur2-670M
well9472 · 工具包
用一个 670M 参数的小型扩散模型,根据文字提示生成插画,在 ComfyUI 中运行。这是一个低预算的研究模型,适合想试用或训练自己 LoRA 的人。

Sebastian Raschka 所著那本书的官方代码,教你用 PyTorch 一章一章搭出一个类 GPT 的大语言模型。笔记本涵盖文本数据、注意力、预训练和微调。安装说明涵盖 uv、pixi、Conda、Docker、Lightning 和 Colab。
Build a Large Language Model 从零构建大模型 是一款 GitHub 上的开源项目,属于教育类,由 Mindket 上架。可免费获取。当前为第 2 版,最近更新于 。按它的 README 从 GitHub 安装。Mindket 的设置说明可在你的 Mindket 账户获取,以 zip 压缩包下载。
git clone --depth 1 https://github.com/rasbt/LLMs-from-scratch.git cd LLMs-from-scratch
这是 Sebastian Raschka 所著《Build a Large Language Model (From Scratch)》一书的官方代码仓库,由 Manning 出版。README 说,你会用 PyTorch 一步一步搭出一个类 GPT 的大语言模型,从文本数据一直做到预训练和微调,不用任何外部的大语言模型库。你训练的这个小模型,用的方法和 ChatGPT 背后那类大模型是一致的。仓库里有书中的笔记本、脚本和额外材料。书本身是另一个产品,README 里给了 Manning 和 Amazon 的链接。
会 Python、想通过亲手写一个来弄懂大语言模型怎么工作的程序员。README 说最重要的前提是扎实的 Python 基础。有深度神经网络的经验会更容易上手,PyTorch 基础有用但不是必须,附录 A 简要介绍了 PyTorch。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 自学的开发者 | 会 Python 的程序员 | 读一章,跑它的笔记本,再对照习题答案 | 一位开发者跑 ch03.ipynb 写出注意力,再打开同一文件夹里的 exercise-solutions.ipynb。 |
| 学生和学习小组 | 学机器学习课程的人 | 一章一章往下学,用 Manning 的免费测验 PDF 自测 | 一个学习小组学完第 4 章,再做 PDF 里那一章的测验题。 |
| 机器学习工程师 | 平时通过 API 调用大语言模型的工程师 | 读额外材料的文件夹,看新架构是怎么从零搭出来的 | 一位工程师打开第 5 章的 Qwen3 文件夹,读一个从零写成的 Qwen3 模型。 |
| 教师 | 老师和工作坊负责人 | 布置一章的笔记本和它的跟做视频 | 一位老师布置第 2 章,并播放作者讲文本数据的视频。 |
如果你想要现成的模型来调用,或者想要一个库来做产品,可以不用它。README 把你训练的模型描述为小而能用,目的是教学。
代码是用 PyTorch 的 Jupyter 笔记本和 Python 脚本,第 5 到 7 章还要用 TensorFlow 读取 GPT-2 权重。README 说主要章节在普通笔记本电脑上就能跑,不需要特殊硬件,有 GPU 时代码会自动使用。设置页说,云端的 NVIDIA GPU 对第 5 到 7 章帮助最大。
点“获取”会把一个装有 Mindket 安装说明的 zip 压缩包存进你的下载文件夹,里面有仓库各个设置页里每条路线的步骤。如果已经装好 Python,设置页说最快的办法是在仓库根目录运行一行 pip install -r requirements.txt。作者自己的路线会先建一个 uv 虚拟环境。
| 需要 | 说明 |
|---|---|
| Python | 所有章节都能用的是 3.10 到 3.12。pyproject.toml 允许 >=3.10,<3.15,但只在 3.13 以下安装 TensorFlow,而第 5 到 7 章要用它加载 GPT-2 权重。检查脚本只对低于 3.9 的版本报错 |
| Git | 用来克隆仓库。README 也提供了 Download ZIP 按钮 |
| 网络连接 | 第 5 到 7 章要下载 GPT-2 权重,笔记本里的图片从作者的网站加载 |
| NVIDIA GPU | 可选。代码发现有就会自动使用 |
| Ollama | 第 7 章的评估步骤要用(主章节讲的就是它,ollama_evaluate.py 是它的总结),第 7 章几个用 Ollama 的额外材料笔记本也要用 |
git clone --depth 1 https://github.com/rasbt/LLMs-from-scratch.git cd LLMs-from-scratch
pip install uv uv venv --python=python3.10 source .venv/bin/activate uv pip install -r requirements.txt
在 Windows 上,设置建议说你可能得把激活那一行换成 source .venv/Scripts/activate 或 .venv/Scripts/activate。某个依赖装不上的话,就退回普通的 pip。
pip install -r requirements.txt
python setup/02_installing-python-libraries/python_environment_check.py jupyter lab
在 Windows 上,作者推荐用 pixi 而不是 uv 自带的命令,因为 pyproject.toml 里有些依赖在那里会出问题。在 Google Colab 上,把下面这行放在笔记本最上面的单元格里:
pip install uv && uv pip install --system -r https://raw.githubusercontent.com/rasbt/LLMs-from-scratch/refs/heads/main/requirements.txt
先读一章,再打开它的笔记本。章节笔记本里有书中出现的全部代码,第 2 到 7 章和附录 A 各有一个习题答案笔记本。README 的表格列出了每章的主笔记本和一个放额外材料的文件夹。
| 章节 | 主笔记本 | 文件夹 |
|---|---|---|
| 第 2 章:处理文本数据 | ch02.ipynb | ch02/01_main-chapter-code |
| 第 3 章:编写注意力机制 | ch03.ipynb | ch03/01_main-chapter-code |
| 第 4 章:从零实现 GPT 模型 | ch04.ipynb | ch04/01_main-chapter-code |
| 第 5 章:在无标注数据上预训练 | ch05.ipynb | ch05/01_main-chapter-code |
| 第 6 章:为文本分类做微调 | ch06.ipynb | ch06/01_main-chapter-code |
| 第 7 章:微调以遵循指令 | ch07.ipynb | ch07/01_main-chapter-code |
| 附录 A:PyTorch 简介 | code-part1.ipynb、code-part2.ipynb | appendix-A/01_main-chapter-code |
各章还有总结本章的独立脚本,比如第 5 章的 gpt_train.py。第 7 章主代码的 README 展示了其中两个脚本的运行方法,它们都在 ch07/01_main-chapter-code 文件夹里:
python gpt_instruction_finetuning.py python ollama_evaluate.py --file_path instruction-data-with-response-standalone.json
README 给的第二个脚本的示例输出,以“Ollama running: True”开头。
你想学注意力那一章。你激活环境,在仓库文件夹里启动 JupyterLab,打开 ch03/01_main-chapter-code/ch03.ipynb。
cd LLMs-from-scratch source .venv/bin/activate jupyter lab
从头往下运行各个单元格。学完这一章,打开同一文件夹里的 exercise-solutions.ipynb,和你自己的做法对照。排错页说,这些主笔记本与印刷版的书保持同步。
新手:大语言模型,简称 LLM,就是 ChatGPT 这类聊天工具背后的那种模型。这本书教的就是它怎么工作,所以你不懂也能开始。先看 README 表格里的设置建议。第 1 章没有代码,所以第一个笔记本是第 2 章的。如果 Python 对你还很陌生,先去学 Python。如果不熟悉 PyTorch,就读附录 A。README 还链接了作者写的一篇怎么读好这本书的文章。
专家:可选的 PyPI 包 llms-from-scratch 能导入各章的代码,比如 llms_from_scratch.ch03 里的 MultiHeadAttention,还带有 GPT-2、Llama 3 和 Qwen3 的 KV 缓存版本。
第 4 章的额外材料有分组查询注意力、多头潜在注意力、滑动窗口注意力、Gated DeltaNet 和混合专家模型。第 5 章增加了从零写成的 Llama 3.2、Qwen3、Gemma 3 和 Olmo 3 模型,第 7 章增加了 DPO。额外材料的笔记本需要更多的包,一行 uv 命令就能装上:
uv pip install --group bonus
附录 A 的多 GPU 演示是个脚本,用 python DDP-script.py 运行,旁边还有一个 torchrun 版本。在 Apple Silicon 的 Mac 上,排错页说不少脚本有意不用 mps 后端,所以损失发散时先在 cpu 上重跑。作者的续作《Build A Reasoning Model (From Scratch)》有自己的仓库,README 还链接了其中的额外材料。
代码和笔记本在你的机器上运行。安装依赖、第一次运行第 5 到 7 章都要联网,笔记本里的图片每次打开都从作者的网站加载。
这个工具包里只有安装说明,由 Mindket 编写。代码、笔记本和额外材料留在 Sebastian Raschka 的仓库里:https://github.com/rasbt/LLMs-from-scratch
这些说明不是 Sebastian Raschka 或 Manning 写的,也没有得到他们的认可。README 说,这个仓库“contains the code for developing, pretraining, and finetuning a GPT-like LLM and is the official code repository for the book Build a Large Language Model (From Scratch)”,意思是:它包含开发、预训练和微调一个类 GPT 大语言模型的代码,是《Build a Large Language Model (From Scratch)》一书的官方代码仓库。这些说明根据 README、设置页和“来源”里列出的文件写成,阅读日期是 2026 年 11 月 3 日。
许可证:LICENSE.txt 文件是 Apache License 2.0,只改了一个定义。它的“Source”形式是“the preferred form for making modifications, explicitly excluding any books specific to this software and any related images”,意思是:修改时首选的形式,明确不包括专属于这个软件的书和相关图片。版权行写的是 Sebastian Raschka,GitHub 的许可证字段显示“Other”。这个工具包里既没有书,也没有它的图片。来源见 https://github.com/rasbt/LLMs-from-scratch/blob/main/LICENSE.txt
README 说,在这本书里你会“learn and understand how large language models (LLMs) work from the inside out by coding them from the ground up, step by step”,意思是:通过一步步从头写代码,从内部学懂大语言模型是怎么工作的。训练“your own small-but-functional model for educational purposes”(你自己的、小而能用的教学模型)的方法,和做出 ChatGPT 背后那类大型基础模型的方法一致。书里还有加载更大预训练模型的权重来做微调的代码。README 链接了出版方 Manning 上的这本书,也链接了 Amazon。来源见 https://github.com/rasbt/LLMs-from-scratch/blob/main/README.md
代码用 PyTorch,用 README 的话说,不用任何外部的大语言模型库。最重要的前提是“a strong foundation in Python programming”,即扎实的 Python 编程基础。有深度神经网络的经验会有帮助,PyTorch 基础有用但不是必须,因为附录 A 是对 PyTorch 的简要介绍。
| 章节 | 文件夹 | 代码 |
|---|---|---|
| 第 1 章:理解大语言模型 | 未列出 | 无 |
| 第 2 章:处理文本数据 | ch02 | 有 |
| 第 3 章:编写注意力机制 | ch03 | 有 |
| 第 4 章:从零实现 GPT 模型 | ch04 | 有 |
| 第 5 章:在无标注数据上预训练 | ch05 | 有 |
| 第 6 章:为文本分类做微调 | ch06 | 有 |
| 第 7 章:微调以遵循指令 | ch07 | 有 |
| 附录 A:PyTorch 简介 | appendix-A | 有 |
| 附录 B:参考文献和延伸阅读 | appendix-B | 无 |
| 附录 C:习题答案 | appendix-C | 链接到各章的答案 |
| 附录 D:给训练循环加上各种增强 | appendix-D | 有 |
| 附录 E:用 LoRA 做参数高效微调 | appendix-E | 有 |
每个有代码的文件夹里都有一个 01_main-chapter-code 文件夹,放着与书对应的笔记本,章节文件夹里还有编号的额外材料文件夹。标题和文件夹抄自 README 的表格。每章的主笔记本列在 setup/chapter-map.md 里。
uv sync 和 uv run。uv add 命令。llms-from-scratch 包,能导入各章的代码。pyproject.toml 写的是 >=3.10,<3.15,它的 TensorFlow 行只适用于 3.13 以下的 Python。各页说法不一致的地方见 setup/troubleshooting.md。来源见 https://github.com/rasbt/LLMs-from-scratch/blob/main/README.md 和 https://github.com/rasbt/LLMs-from-scratch/blob/main/setup/README.md
README 给了两种办法:Download ZIP 按钮,或者下面这条命令。来源见 https://github.com/rasbt/LLMs-from-scratch/blob/main/README.md
git clone --depth 1 https://github.com/rasbt/LLMs-from-scratch.git
README 用的 Download ZIP 链接是 https://github.com/rasbt/LLMs-from-scratch/archive/refs/heads/main.zip
如果你想保留自己的改动又能收到更新,先 fork 仓库。见 setup/troubleshooting.md。
各页没有给出普通克隆的更新步骤。排错页为 fork 加了一个 upstream 远程,见 setup/troubleshooting.md。对没有 fork 的克隆,在文件夹里运行 git pull 就能更新,这是 Mindket 的说法,不是作者的。
要移除,删掉文件夹即可。uv 建的虚拟环境在里面的 .venv 文件夹里,原生 uv 页说你可以直接删掉这个文件夹,从头再来。Docker 页给出 docker image ls 和 docker image rm [IMAGE_ID_OR_NAME] 来处理 DevContainer 的镜像,见 setup/docker-dev-container.md。
README.md 8 KB setup/chapter-map.md 5 KB setup/colab-and-lightning.md 2 KB setup/conda.md 3 KB setup/docker-dev-container.md 5 KB setup/native-uv.md 3 KB setup/pip-package.md 3 KB setup/pixi.md 3 KB setup/troubleshooting.md 5 KB setup/uv-and-pip.md 5 KB setup/vs-code-and-jupyter.md 2 KB
Updated by Mindket to the current version of this kit.
同一分类里与本产品共有主题最多的已上架 GitHub 项目。
| 产品 | 星标 | 活跃度 | 语言 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Build a Large Language Model 从零构建大模型 本页 | 107,934 | — | — | — | — |
| AI Engineering from Scratch共有 from-scratch · deep-learning · generative-ai | 77,834 | — | — | MIT | — |
| 微软生成式 AI 入门课共有 gpt · language-model · generative-ai | 123,169 | 活跃 | Jupyter Notebook | MIT | |
| 微软 AI 入门课共有 artificial-intelligence · deep-learning · ai | 70,626 | — | — | MIT | — |
| LLM Course 大语言模型课程共有 large-language-models · llm | 84,938 | — | — | Apache-2.0 | — |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
well9472 · 工具包
用一个 670M 参数的小型扩散模型,根据文字提示生成插画,在 ComfyUI 中运行。这是一个低预算的研究模型,适合想试用或训练自己 LoRA 的人。
Waqf-AI · 工具包
读取图片中的阿拉伯语手写文字并以文本形式返回。这是微调过的 PaddleOCR-VL 模型,适合要把阿拉伯语手写内容数字化的人。
Wan-AI · 工具包
根据文本提示或图像加文字生成视频片段,最高 720P、每秒 24 帧,Diffusers 格式,适合单块消费级 GPU。
rohitg00 · 工具包
Rohit Ghumare 做的免费课程,采用 MIT 许可证,分二十个阶段,从数学一路教到智能体和生产部署。Claude Code、Codex 和 Cursor 的导师技能带你一节课一节课地学。安装说明涵盖网站、克隆仓库、导师技能、聚焦路线、项目和认证。
microsoft · 工具包
微软 Cloud Advocates 团队做的免费课程,教你构建生成式 AI 应用,共 21 节课。Learn 课讲解概念,Build 课在可行时另附 Python 和 TypeScript 示例。安装说明涵盖 Codespaces、本地安装和课程用到的各个模型提供方。
langgenius · 工具包
LangGenius 的开源大模型应用开发平台:可视化工作流、RAG、模型管理,以及带沙箱的智能体。它的 difyctl 工具和技能让 Claude Code、Codex、Cursor 和其他智能体来构建和运行这些应用。