Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
讲解如何在大型 GPU 集群上训练大语言模型,是一份在浏览器里阅读的网页指南,文件里还附有 PDF 副本。适合运行或规划大型训练任务的工程师和研究人员。
The Ultra-Scale Playbook 是一款工具包,属于教育类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download nanotron/ultrascale-playbook --repo-type space --local-dir ultrascale-playbook cd ultrascale-playbook
The Ultra-Scale Playbook 是一份在大型 GPU 集群上训练大语言模型的指南。它是一个在浏览器里阅读的网页,由仓库里的源文件构建,旁边还放着这份指南的 PDF 副本。
它适合训练或打算在多块 GPU 上训练大模型的人,也适合想通过一份长指南学习这个领域的人。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| AI 研究 | 研究人员 | 在规划大型训练任务之前先读这份指南 | 打开页面,从头读起 |
| 机器学习工程 | 机器学习工程师 | 搭建 GPU 集群时把它当作参考 | 打开仓库里的 PDF 副本 |
| 教育 | 学生 | 了解大模型训练是怎么组织的 | 一节一节地读完页面 |
| 网页发布 | 前端开发者 | 研究页面如何由片段拼装而成 | 阅读 src 里的文件和 webpack 配置 |
如果你想要一个可运行的软件工具,可以跳过它,因为这是阅读材料,加上页面背后的代码。
| 使用场景 | 谁用 | 得到什么 |
|---|---|---|
| 在线阅读指南 | 工程师 | 完整页面,不需要安装任何东西 |
| 保留离线副本 | 学生 | 电脑上的文件,包括 PDF |
| 修改页面 | 网页开发者 | 一个可以在 src 里编辑并重新构建的版本 |
在线阅读只需要浏览器。本地副本需要 Python 来获取文件。编辑页面还需要带 npm 的 Node 和 Git LFS。
pip install -U huggingface_hub hf download nanotron/ultrascale-playbook --repo-type space --local-dir ultrascale-playbook cd ultrascale-playbook
要编辑页面,在项目文件夹里使用下面这些命令。
# fetch LFS-tracked files (large assets) git lfs pull npm install npm run build npm run dev
在浏览器里阅读指南。如果你要编辑,就修改 src 下的文件,运行构建,然后提交 dist 文件夹。
| 工具 | 作用 |
|---|---|
| git lfs pull | 获取仓库用 LFS 跟踪的大文件 |
| npm install | 安装页面构建所需的东西 |
| npm run dev | 以开发方式运行页面,并在控制台列出可用的片段 |
| npm run build | 把页面从 src 构建到 dist,然后你再提交它 |
你想在页面上加一个横幅。你在 src/fragments 下新建一个名为 banner.html 的文件,把它的占位符放进 src/index.html,运行开发命令,再确认控制台列出了新的片段。
打开页面,从头读起。这不需要任何设置,仓库里的 PDF 副本包含同一份指南,可以离线阅读。
页面由 HTML 片段组成,片段有两种加载方式。编译期片段会烤进构建出的 HTML,所以每位访客在加载后立刻就能看到。运行期片段稍后才获取并插入,这样最终的 HTML 保持较小,最好在 1MB 以内。代价是运行期片段会比页面晚一会儿出现。仓库里还有转换脚本和这份指南的 markdown 源文件。
讲解如何在大型 GPU 集群上训练大语言模型,是一份在浏览器里阅读的网页指南,文件里还附有 PDF 副本。适合运行或规划大型训练任务的工程师和研究人员。
由 nanotron 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的,应用自己的文件和许可证在 Hugging Face 上。
它是什么:The Ultra-Scale Playbook 是一份在大型 GPU 集群上训练大语言模型的指南。它是一个在浏览器里阅读的网页,由仓库里的源文件构建,旁边还放着这份指南的 PDF 副本。
适合谁:它适合训练或打算在多块 GPU 上训练大模型的人,也适合想通过一份长指南学习这个领域的人。
行业 | 谁在用 | 怎么用 | 例子
AI 研究 | 研究人员 | 在规划大型训练任务之前先读这份指南 | 打开页面,从头读起
机器学习工程 | 机器学习工程师 | 搭建 GPU 集群时把它当作参考 | 打开仓库里的 PDF 副本
教育 | 学生 | 了解大模型训练是怎么组织的 | 一节一节地读完页面
网页发布 | 前端开发者 | 研究页面如何由片段拼装而成 | 阅读 src 里的文件和 webpack 配置
如果你想要一个可运行的软件工具,可以跳过它,因为这是阅读材料,加上页面背后的代码。
用在哪里:
使用场景 | 谁用 | 得到什么
在线阅读指南 | 工程师 | 完整页面,不需要安装任何东西
保留离线副本 | 学生 | 电脑上的文件,包括 PDF
修改页面 | 网页开发者 | 一个可以在 src 里编辑并重新构建的版本
如何设置:在线阅读只需要浏览器。本地副本需要 Python 来获取文件。编辑页面还需要带 npm 的 Node 和 Git LFS。
pip install -U huggingface_hub
hf download nanotron/ultrascale-playbook --repo-type space --local-dir ultrascale-playbook
cd ultrascale-playbook
要编辑页面,在项目文件夹里使用下面这些命令。
# fetch LFS-tracked files (large assets)
git lfs pull
npm install
npm run build
npm run dev
如何使用:在浏览器里阅读指南。如果你要编辑,就修改 src 下的文件,运行构建,然后提交 dist 文件夹。
工具 | 作用
git lfs pull | 获取仓库用 LFS 跟踪的大文件
npm install | 安装页面构建所需的东西
npm run dev | 以开发方式运行页面,并在控制台列出可用的片段
npm run build | 把页面从 src 构建到 dist,然后你再提交它
示例:你想在页面上加一个横幅。你在 src/fragments 下新建一个名为 banner.html 的文件,把它的占位符放进 src/index.html,运行开发命令,再确认控制台列出了新的片段。
新手与专家:打开页面,从头读起。这不需要任何设置,仓库里的 PDF 副本包含同一份指南,可以离线阅读。
页面由 HTML 片段组成,片段有两种加载方式。编译期片段会烤进构建出的 HTML,所以每位访客在加载后立刻就能看到。运行期片段稍后才获取并插入,这样最终的 HTML 保持较小,最好在 1MB 以内。代价是运行期片段会比页面晚一会儿出现。仓库里还有转换脚本和这份指南的 markdown 源文件。
在 src 里编辑文件
运行 npm run dev 并查看控制台
运行 npm run build
提交 dist 文件夹
打开 dist/index.html
注意事项:
在浏览器里打开这个 Space,或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face Space。
| 产品 | 点赞 | 构建方式 | 许可证 | 最近更新 |
|---|---|---|---|---|
| The Ultra-Scale Playbook 本页 | 4,131 | static | apache-2.0 | |
| LLM训练终极指南 | The Ultra-Scale Playbook共有 static | 281 | static | apache-2.0 | |
| Attention Visualization共有 static | 200 | static | apache-2.0 | |
| Number Tokenization Blog共有 static | 127 | static | mit | |
| Train the agent slides共有 static | 20 | static | apache-2.0 | |
| Le Tube共有 static | 5 | static | odc-by |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
prathoshap · 工具包
用一个训练好的声音,以吟诵风格朗读古典梵语诗节,由参考音频决定节奏。适合学习、背诵或需要梵语音频的人。
paradigma-inc · 工具包
用一个从头训练的 1B 参数模型解决难度很高的数学题,追求高速、大批量的推理。适合在 NVIDIA GPU 上运行数学任务的开发者。
murai-labs · 工具包
能用泰米尔文、罗马化泰米尔语和英语聊天,也能在泰米尔语和英语之间翻译。这是 Murai Labs 从零训练的 2.5B 模型,适合泰米尔语使用者、研究人员和开发者。