DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
读取图片和文字并用文字回复,来自 Qwen 的 873M 小模型。适合想用轻量多模态基础模型做原型或微调的开发者和研究者。
Qwen3.5-0.8B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download Qwen/Qwen3.5-0.8B
Qwen3.5-0.8B 是 Qwen 的小型模型,接收图片和文字,用文字回答。它是 Qwen3.5-0.8B-Base 的后训练版本,打包成了 Hugging Face Transformers 格式。模型卡说它的规模适合做原型、针对单一任务微调和研究。
适合想要一个紧凑多模态模型作为起点的开发者和研究者。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 开发者 | 为读取图片和文字的应用做原型 | 回答关于截图问题的演示 |
| 研究 | 研究者 | 先在小模型上试想法,再上大模型 | 针对窄任务的微调实验 |
| 教育 | 学生 | 学习视觉语言模型怎么加载和运行 | 一个询问照片内容的课堂练习 |
需要在难题上拿到最高准确率的人可以跳过它,因为模型卡把这个规模定位在做原型和研究,而不是成品。
| 用途 | 谁用 | 得到什么 |
|---|---|---|
| 图片问答 | 开发者 | 对你提供的图片给出文字回答 |
| 微调的基础 | 机器学习工程师 | 一个用于特定任务版本的小起点 |
| 多语言文本 | 研究者 | 在模型卡列出的 201 种语言和方言上处理文本 |
你需要先准备:
pip install -U huggingface_hub hf download Qwen/Qwen3.5-0.8B
在 Transformers 里加载模型,给聊天消息附上一张图片,再问一个关于它的问题。回复以文字形式返回。你也可以只发文字。
你附上一张照片,问 "What is in this picture?",模型会用文字回答。它是个小模型,所以在依赖它的答案之前,先用你自己的图片检查一下。
视觉语言模型会同时看图片、读你的文字,然后写出答案。第一步可以试一张照片加一个简单的问题,看看它怎么回复。
对专家来说,它是带视觉编码器的因果语言模型,有 24 层,原生上下文为 262,144 个 token。它的层交替使用 Gated DeltaNet 和门控注意力块,模型卡说它用多步 MTP 训练。小尺寸是以准确率为代价的:在非思考模式的 MMLU-Pro 上,模型卡给出它是 29.7,而 Qwen3-4B-2507 是 69.6。
读取图片和文字并用文字回复,来自 Qwen 的 873M 小模型。适合想用轻量多模态基础模型做原型或微调的开发者和研究者。
由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Qwen3.5-0.8B 是 Qwen 的小型模型,接收图片和文字,用文字回答。它是 Qwen3.5-0.8B-Base 的后训练版本,打包成了 Hugging Face Transformers 格式。模型卡说它的规模适合做原型、针对单一任务微调和研究。
适合谁:适合想要一个紧凑多模态模型作为起点的开发者和研究者。
行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 为读取图片和文字的应用做原型 | 回答关于截图问题的演示
研究 | 研究者 | 先在小模型上试想法,再上大模型 | 针对窄任务的微调实验
教育 | 学生 | 学习视觉语言模型怎么加载和运行 | 一个询问照片内容的课堂练习
需要在难题上拿到最高准确率的人可以跳过它,因为模型卡把这个规模定位在做原型和研究,而不是成品。
用在哪里:
用途 | 谁用 | 得到什么
图片问答 | 开发者 | 对你提供的图片给出文字回答
微调的基础 | 机器学习工程师 | 一个用于特定任务版本的小起点
多语言文本 | 研究者 | 在模型卡列出的 201 种语言和方言上处理文本
如何设置:
你需要先准备:
pip install -U huggingface_hub
hf download Qwen/Qwen3.5-0.8B
如何使用:在 Transformers 里加载模型,给聊天消息附上一张图片,再问一个关于它的问题。回复以文字形式返回。你也可以只发文字。
示例:你附上一张照片,问 "What is in this picture?",模型会用文字回答。它是个小模型,所以在依赖它的答案之前,先用你自己的图片检查一下。
新手与专家:视觉语言模型会同时看图片、读你的文字,然后写出答案。第一步可以试一张照片加一个简单的问题,看看它怎么回复。
对专家来说,它是带视觉编码器的因果语言模型,有 24 层,原生上下文为 262,144 个 token。它的层交替使用 Gated DeltaNet 和门控注意力块,模型卡说它用多步 MTP 训练。小尺寸是以准确率为代价的:在非思考模式的 MMLU-Pro 上,模型卡给出它是 29.7,而 Qwen3-4B-2507 是 69.6。
给它一张图片和一个问题
视觉编码器读取图片
语言模型读取图片和文字
它写出文字回复
注意事项:
Title: 其他人做的版本
量化版: 421
微调版: 739
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download Qwen/Qwen3.5-0.8B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 4 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Qwen3.5-0.8B 本页 | 3,286,957 | 837 | 873M | apache-2.0 | |
| Qwen3.8-27B共有 qwen3_5 · image-text-to-text · conversational | 6,960,395 | 19,795 | 27.8B | apache-2.0 | |
| Qwen3.5-9B共有 qwen3_5 · image-text-to-text · conversational | 6,259,809 | 2,353 | 9.7B | apache-2.0 | |
| Qwen3.8-27B-FP8共有 qwen3_5 · image-text-to-text · conversational | 5,442,810 | 984 | 27.8B | apache-2.0 | |
| Qwen3.5-4B共有 qwen3_5 · image-text-to-text · conversational | 5,083,722 | 1,226 | 4.7B | apache-2.0 | |
| Qwen3.5-2B共有 qwen3_5 · image-text-to-text · conversational | 4,044,746 | 479 | 2.3B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。