DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
读取文字和图片并写出文字,是带视觉编码器的 27B Qwen 模型,原生上下文为 262,144 个词元。适合在服务器级硬件上构建助手和智能体的开发者。
Qwen3.5-27B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download Qwen/Qwen3.5-27B
Qwen3.5-27B 是一个能读取文字和图片并写出文字的 Qwen 模型。它把一个 27B 的语言模型和一个视觉编码器配在一起,这个仓库里是 Transformers 格式的后训练版本。模型卡列出了对 201 种语言和方言的支持,以及 262,144 个词元的原生上下文。
它适合想用开放多模态模型来做助手、智能体和编码、并且有服务器级硬件的开发者和团队。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件开发 | 开发者 | 构建能读文字和图片的助手 | 就一张截图提问 |
| 全球客服 | 多语言团队 | 用多种语言回答用户 | 用 201 种列出的语言之一回复 |
| AI 智能体 | 智能体开发者 | 把它作为使用工具的智能体背后的模型 | 在智能体框架里运行一个多步骤任务 |
| AI 研究 | 研究者 | 研究混合注意力的视觉语言模型 | 和早期的 Qwen3 模型做对比 |
如果你的机器比较小,可以跳过它,因为 BF16 权重约 55.6 GB。
| 用例 | 谁用 | 得到什么 |
|---|---|---|
| 图片提问 | 开发者 | 关于你发送的图片的文字回答 |
| 编码和推理 | 工程师 | 写好的代码和一步一步的回答 |
| 多语言聊天 | 客服团队 | 多种语言的回复 |
你需要 Python 来使用下载工具,还需要上面列表里的一个运行环境。权重在 BF16 下约 55.6 GB,4-bit 下估计约 13.9 GB。
pip install -U huggingface_hub hf download Qwen/Qwen3.5-27B
可见的模型卡给出了下载这一步、模型概览和基准表,但没有运行命令。你的运行环境加载文件后,你发送文字或一张图片和一个问题,读取文字回复。
| 部分 | 说明 |
|---|---|
| 语言模型 | 27B 参数,64 层 |
| 视觉 | 同一个模型里内置的视觉编码器 |
| 上下文 | 原生 262,144 个词元,可扩展到 1,010,000 |
| 语言 | 201 种语言和方言 |
你在 vLLM 这样的服务工具里加载模型,发送一张图片和一个问题,得到一个书面回答。
如果你刚接触这类模型,它是一个能看图片并谈论图片的大模型。第一次可以先用量化副本,因为完整文件需要大显卡。
对熟悉这个领域的人来说,16 个模块各自叠放三层 Gated DeltaNet 和一层 Gated Attention,每层之后都有一个前馈层。模型卡说,在多模态词元上做早期融合训练,让它在文字上与 Qwen3 持平,在视觉任务上胜过 Qwen3-VL 模型。
基准表把它和 GPT-5-mini、GPT-OSS-120B、Qwen3-235B-A22B 以及其他 Qwen3.5 模型做了对比。分数来自作者。
读取文字和图片并写出文字,是带视觉编码器的 27B Qwen 模型,原生上下文为 262,144 个词元。适合在服务器级硬件上构建助手和智能体的开发者。
由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Qwen3.5-27B 是一个能读取文字和图片并写出文字的 Qwen 模型。它把一个 27B 的语言模型和一个视觉编码器配在一起,这个仓库里是 Transformers 格式的后训练版本。模型卡列出了对 201 种语言和方言的支持,以及 262,144 个词元的原生上下文。
适合谁:它适合想用开放多模态模型来做助手、智能体和编码、并且有服务器级硬件的开发者和团队。
行业 | 谁在用 | 怎么用 | 例子
软件开发 | 开发者 | 构建能读文字和图片的助手 | 就一张截图提问
全球客服 | 多语言团队 | 用多种语言回答用户 | 用 201 种列出的语言之一回复
AI 智能体 | 智能体开发者 | 把它作为使用工具的智能体背后的模型 | 在智能体框架里运行一个多步骤任务
AI 研究 | 研究者 | 研究混合注意力的视觉语言模型 | 和早期的 Qwen3 模型做对比
如果你的机器比较小,可以跳过它,因为 BF16 权重约 55.6 GB。
用在哪里:
用例 | 谁用 | 得到什么
图片提问 | 开发者 | 关于你发送的图片的文字回答
编码和推理 | 工程师 | 写好的代码和一步一步的回答
多语言聊天 | 客服团队 | 多种语言的回复
如何设置:你需要 Python 来使用下载工具,还需要上面列表里的一个运行环境。权重在 BF16 下约 55.6 GB,4-bit 下估计约 13.9 GB。
pip install -U huggingface_hub
hf download Qwen/Qwen3.5-27B
如何使用:可见的模型卡给出了下载这一步、模型概览和基准表,但没有运行命令。你的运行环境加载文件后,你发送文字或一张图片和一个问题,读取文字回复。
部分 | 说明
语言模型 | 27B 参数,64 层
视觉 | 同一个模型里内置的视觉编码器
上下文 | 原生 262,144 个词元,可扩展到 1,010,000
语言 | 201 种语言和方言
示例:你在 vLLM 这样的服务工具里加载模型,发送一张图片和一个问题,得到一个书面回答。
新手与专家:如果你刚接触这类模型,它是一个能看图片并谈论图片的大模型。第一次可以先用量化副本,因为完整文件需要大显卡。
对熟悉这个领域的人来说,16 个模块各自叠放三层 Gated DeltaNet 和一层 Gated Attention,每层之后都有一个前馈层。模型卡说,在多模态词元上做早期融合训练,让它在文字上与 Qwen3 持平,在视觉任务上胜过 Qwen3-VL 模型。
Title: 以词元计的上下文长度
Native context: 262144 tokens
Extended context: 1010000 tokens
你下载文件
你的运行环境加载语言模型和视觉编码器
你发送文字或图片加一个问题
模型写出文字回答
注意事项:基准表把它和 GPT-5-mini、GPT-OSS-120B、Qwen3-235B-A22B 以及其他 Qwen3.5 模型做了对比。分数来自作者。
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download Qwen/Qwen3.5-27B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Qwen3.5-27B 本页 | 1,651,125 | 1,091 | 27.8B | apache-2.0 | |
| Qwen3.8-27B共有 qwen3_5 · image-text-to-text · conversational | 6,960,395 | 19,795 | 27.8B | apache-2.0 | |
| Qwen3.5-9B共有 qwen3_5 · image-text-to-text · conversational | 6,259,809 | 2,353 | 9.7B | apache-2.0 | |
| Qwen3.8-27B-FP8共有 qwen3_5 · image-text-to-text · conversational | 5,442,810 | 984 | 27.8B | apache-2.0 | |
| Qwen3.5-4B共有 qwen3_5 · image-text-to-text · conversational | 5,083,722 | 1,226 | 4.7B | apache-2.0 | |
| Qwen3.5-2B共有 qwen3_5 · image-text-to-text · conversational | 4,044,746 | 479 | 2.3B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。