适合谁
适合已经在用 ChatGPT、Claude 或 Gemini,想知道运行或基于一个可下载的模型做东西需要什么的人。不需要机器学习的基础。第 1 课和第 4 课里有几条终端命令,第 2 课带你读许可证,但不构成法律意见。
课程内容
- 1开放权重模型是什么?开放权重和开源的区别开放权重模型是什么,和开源有什么区别:在 Hugging Face 上查看一个真实的发布包里有什么,再认识六个模型家族。
- 2开放模型许可证:Apache 2.0、MIT、Llama 和 Mistral 各允许你做什么开放模型许可证详解:Apache 2.0、MIT、Llama 4 许可证和 Mistral 的许可证各允许你做什么,以及怎样在模型卡上读懂一份许可证。
- 3怎样选开放模型:按任务和你的电脑来选怎样选开放权重模型:先看任务,再读总参数与活跃参数,核对上下文长度和许可证,最后用自己的提示词测试两个模型。
- 4量化详解:Q4_K_M、GGUF、AWQ 和 GPTQ 各是什么意思量化详解:读懂 Q4_K_M 这样的 GGUF 文件名,看 4 位文件在准确率上损失多少,并比较 GGUF、AWQ、GPTQ 和 bitsandbytes。
常见问题
开放权重模型课程免费吗?
免费。每一课都可以免费阅读。课程提到的模型各有各的许可证,第 2 课会教你怎样读每一份。
学这门课需要 GPU 吗?
不需要。这些课读的是模型卡、许可证文件和文档。运行模型需要有够放下它文件的内存。本地硬件那一课有估算大小的算法,第 3 课比较总参数和活跃参数,第 4 课讲能把文件变小的量化。
开始之前需要懂什么?
第 1 课和第 4 课有几条命令,会用终端会方便一些。除此之外不需要别的基础。
课程拿哪些模型做例子?
gpt-oss、Qwen、DeepSeek、Llama、Gemma、Mistral 和 Olmo,用的是它们 2026 年 11 月 6 日的模型卡。新版本每隔几个月就会出现,所以课程教的是怎样读模型卡,而不是一份排名。
学完这门课,接下来学什么?
下一门是本地 AI 课程。它从安装 Ollama 讲起,再讲它的 API、LM Studio 和本地模型所需的硬件。
