Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
提供一系列采用 Llama 2 设计、在 TinyStories 数据集上训练的小型语言模型,为 Karpathy 的 llama2.c 项目而做。适合想试试小模型的开发者。
tinyllamas 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download karpathy/tinyllamas
这个仓库放的是 Andrej Karpathy 的一系列小型语言模型。它们采用 Llama 2 的设计,并从 TinyStories 数据集中学习。卡片说它们是为 llama2.c 项目准备的。
它适合想试用、了解或在其上构建一个小模型、而不是大模型的开发者、学生和研究者。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 开发者 | 在 llama2.c 项目里试用一个 Llama 2 风格的小模型 | 在自己的电脑上从头到尾测试一个模型 |
| 教育 | 学生 | 在小规模上研究语言模型是怎么工作的 | 通读一个小模型的文件 |
| 研究 | 机器学习研究者 | 在 TinyStories 数据集上做训练实验 | 把基础模型和微调版本对比 |
| 爱好 | 动手爱好者 | 为了好玩运行一个微型模型 | 让 llama2.c 指向你下载的文件 |
如果你需要通用的聊天助手,可以跳过它,因为它是从 TinyStories 学来的,并且是为 llama2.c 项目准备的。
| 使用场景 | 适合谁 | 能得到什么 |
|---|---|---|
| 试用 llama2.c | 开发者 | 为那个项目做的模型文件 |
| 研究小模型 | 学生 | 一个可以了解的 Llama 2 风格小模型 |
| 对比版本 | 研究者 | 别人做的 3 个量化版本和 7 个微调版本 |
你需要装有 pip 的 Python,以及用来运行这些文件的 llama2.c 项目。卡片没有给出文件大小,所以下载前请先看页面上的文件列表。
pip install -U huggingface_hub hf download karpathy/tinyllamas
卡片没有给出运行命令。它只说这些模型是为 llama2.c 项目准备的,所以请按那个项目的说明来加载一个。
你用 hf 命令下载文件,然后让 llama2.c 指向其中一个。卡片没有给出运行步骤,所以接下来请照那个项目的页面做。
可以把它看作一个口袋大小的语言模型,做出来就是为了好研究、好上手。第一件可以试的小事,是上面的下载命令。
卡片只说这是一个采用 Llama 2 架构、在 TinyStories 数据集上训练的模型系列。它没有列出大小、分数或设置,所以细节请看文件列表和 llama2.c 页面。
- Other versions: Hugging Face 列出了别人做的版本。
提供一系列采用 Llama 2 设计、在 TinyStories 数据集上训练的小型语言模型,为 Karpathy 的 llama2.c 项目而做。适合想试试小模型的开发者。
由 karpathy 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:这个仓库放的是 Andrej Karpathy 的一系列小型语言模型。它们采用 Llama 2 的设计,并从 TinyStories 数据集中学习。卡片说它们是为 llama2.c 项目准备的。
适合谁:它适合想试用、了解或在其上构建一个小模型、而不是大模型的开发者、学生和研究者。
行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 在 llama2.c 项目里试用一个 Llama 2 风格的小模型 | 在自己的电脑上从头到尾测试一个模型
教育 | 学生 | 在小规模上研究语言模型是怎么工作的 | 通读一个小模型的文件
研究 | 机器学习研究者 | 在 TinyStories 数据集上做训练实验 | 把基础模型和微调版本对比
爱好 | 动手爱好者 | 为了好玩运行一个微型模型 | 让 llama2.c 指向你下载的文件
如果你需要通用的聊天助手,可以跳过它,因为它是从 TinyStories 学来的,并且是为 llama2.c 项目准备的。
用在哪里:
使用场景 | 适合谁 | 能得到什么
试用 llama2.c | 开发者 | 为那个项目做的模型文件
研究小模型 | 学生 | 一个可以了解的 Llama 2 风格小模型
对比版本 | 研究者 | 别人做的 3 个量化版本和 7 个微调版本
如何设置:你需要装有 pip 的 Python,以及用来运行这些文件的 llama2.c 项目。卡片没有给出文件大小,所以下载前请先看页面上的文件列表。
pip install -U huggingface_hub
hf download karpathy/tinyllamas
如何使用:卡片没有给出运行命令。它只说这些模型是为 llama2.c 项目准备的,所以请按那个项目的说明来加载一个。
示例:你用 hf 命令下载文件,然后让 llama2.c 指向其中一个。卡片没有给出运行步骤,所以接下来请照那个项目的页面做。
新手与专家:可以把它看作一个口袋大小的语言模型,做出来就是为了好研究、好上手。第一件可以试的小事,是上面的下载命令。
卡片只说这是一个采用 Llama 2 架构、在 TinyStories 数据集上训练的模型系列。它没有列出大小、分数或设置,所以细节请看文件列表和 llama2.c 页面。
TinyStories 数据集
在其上训练的 Llama 2 架构模型
发布在 Hugging Face 上的系列
用于 llama2.c 项目
注意事项:
Title: 别人做的版本
量化: 3
微调: 7
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download karpathy/tinyllamas
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 4 KB
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。