Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
作为 7B 预训练基础模型生成并续写文字,适合想要一个起点来测试、微调或在其上开发的研究人员和开发者。
Mistral-7B-v0.1 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download mistralai/Mistral-7B-v0.1
Mistral-7B-v0.1 是 Mistral AI 发布的预训练文本生成模型,有 70 亿参数。它是基础模型,所以会接着你给的文字往下写,没有为聊天做过调优。模型卡说,它在团队测试的所有基准上都超过了 Llama 2 13B。
如果你想要一个开放的英文基础模型,用来测试、微调或在它之上开发产品,它就适合你。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 研究 | 语言模型研究人员 | 把它当作对比或研究的基础模型 | 研究人员在这个模型和一个更大的模型上跑同样的提示词 |
| 软件 | 开发者 | 针对自己的任务做微调 | 开发者用客服工单微调它,让它起草回复 |
| 教育 | 学生 | 在任何调优之前,了解预训练模型的表现 | 学生给它一个故事开头,看它怎么续写 |
如果你想要一个开箱即用、带内容审核的聊天助手,可以跳过它。
| 用例 | 谁用 | 得到什么 |
|---|---|---|
| 续写一段文字 | 任何想试用的人 | 顺着提示词生成的文字 |
| 微调的基础 | 开发者 | 一个可以用自己的数据继续训练的起点模型 |
| 对比基线 | 研究人员 | 用来衡量其他模型的输出 |
pip install -U huggingface_hub hf download mistralai/Mistral-7B-v0.1
给模型一段文字的开头,让它接着写。它没有聊天格式,也没有内容审核层,所以要把输出当作原始的续写结果。来源只给出了下载这一步的命令。
hf download mistralai/Mistral-7B-v0.1
| 工具 | 作用 |
|---|---|
| hf download | 把模型文件下载到你的电脑 |
| pip install -U huggingface_hub | 安装提供 hf 命令的包 |
你给它一个短篇故事的开头,比如灯塔看守人发现了一封信。模型会一句一句写出可能的后续,直到达到你设的长度上限。
基础模型只负责预测接下来的词。它不像聊天助手那样回答问题,所以请让它补全一句话,而不是给它下命令。你可以先试一句故事开头。
对熟悉这个领域的人来说,它是一个 Transformer,采用分组查询注意力、滑动窗口注意力和字节回退 BPE 分词器。作为预训练基础模型,它没有内置指令微调或内容审核。这让你可以自由微调,但安全过滤要由你自己来做。
作为 7B 预训练基础模型生成并续写文字,适合想要一个起点来测试、微调或在其上开发的研究人员和开发者。
由 mistralai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Mistral-7B-v0.1 是 Mistral AI 发布的预训练文本生成模型,有 70 亿参数。它是基础模型,所以会接着你给的文字往下写,没有为聊天做过调优。模型卡说,它在团队测试的所有基准上都超过了 Llama 2 13B。
适合谁:如果你想要一个开放的英文基础模型,用来测试、微调或在它之上开发产品,它就适合你。
行业 | 谁在用 | 怎么用 | 例子
研究 | 语言模型研究人员 | 把它当作对比或研究的基础模型 | 研究人员在这个模型和一个更大的模型上跑同样的提示词
软件 | 开发者 | 针对自己的任务做微调 | 开发者用客服工单微调它,让它起草回复
教育 | 学生 | 在任何调优之前,了解预训练模型的表现 | 学生给它一个故事开头,看它怎么续写
如果你想要一个开箱即用、带内容审核的聊天助手,可以跳过它。
用在哪里:
用例 | 谁用 | 得到什么
续写一段文字 | 任何想试用的人 | 顺着提示词生成的文字
微调的基础 | 开发者 | 一个可以用自己的数据继续训练的起点模型
对比基线 | 研究人员 | 用来衡量其他模型的输出
如何设置:
pip install -U huggingface_hub
hf download mistralai/Mistral-7B-v0.1
如何使用:
给模型一段文字的开头,让它接着写。它没有聊天格式,也没有内容审核层,所以要把输出当作原始的续写结果。来源只给出了下载这一步的命令。
hf download mistralai/Mistral-7B-v0.1
工具 | 作用
hf download | 把模型文件下载到你的电脑
pip install -U huggingface_hub | 安装提供 hf 命令的包
示例:你给它一个短篇故事的开头,比如灯塔看守人发现了一封信。模型会一句一句写出可能的后续,直到达到你设的长度上限。
新手与专家:基础模型只负责预测接下来的词。它不像聊天助手那样回答问题,所以请让它补全一句话,而不是给它下命令。你可以先试一句故事开头。
对熟悉这个领域的人来说,它是一个 Transformer,采用分组查询注意力、滑动窗口注意力和字节回退 BPE 分词器。作为预训练基础模型,它没有内置指令微调或内容审核。这让你可以自由微调,但安全过滤要由你自己来做。
Mistral AI 预训练 7B 基础模型
你用 hf 下载文件
transformers 加载权重
你发送一段文字的开头
模型一个词一个词地续写
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download mistralai/Mistral-7B-v0.1
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Mistral-7B-v0.1 本页 | 441,952 | 4,231 | 7.2B | apache-2.0 | |
| Mistral-7B-Instruct-v0.1共有 mistral · mistral-common · pytorch | 105,736 | 1,878 | 7.2B | apache-2.0 | |
| Mistral-7B-Instruct-v0.3共有 mistral · mistral-common · safetensors | 1,771,788 | 3,838 | 7.2B | apache-2.0 | |
| ARLoop-0.6B共有 pretrained · text-generation · transformers | 2,164 | 5 | 583M | apache-2.0 | |
| KLM 1.5共有 pretrained · text-generation · transformers | 1,603 | 31 | 99M | apache-2.0 | |
| KLM 1.6共有 pretrained · text-generation · transformers | 909 | 60 | 99M | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。