DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
在 Apple Silicon Mac 上运行 8 位 MLX 版本的 27B 图文模型,适合想在本地回答图片问题的人。
Qwen3.8-27B-MLX-8bit 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download lmstudio-community/Qwen3.8-27B-MLX-8bit
这是 Qwen3.8-27B 模型的 8 位 MLX 副本,由 LM Studio 团队为 Apple Silicon Mac 准备。模型接收一张图片加一段文字提示词,并用文字回答。它有 27.4B 参数。
如果你有一台 Apple Silicon Mac,想在自己的电脑上运行一个能看图并写文字的大模型,它就适合你。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 应用开发者 | 在本地运行模型,回答关于截图的问题 | 开发者放入一张屏幕截图,问画面里有哪些按钮 |
| 研究 | 机器学习研究人员 | 把这个 8 位副本和原版模型做对比 | 研究人员用同一个图片问题问两个模型,再对比两份回答 |
| 教育 | 学生和爱好者 | 在个人 Mac 上试用大型图文模型 | 学生请模型描述一张图表 |
没有 Apple Silicon Mac,或更想用托管服务的人可以跳过它。
| 用例 | 谁用 | 得到什么 |
|---|---|---|
| 描述一张图片 | 开发者 | 一段关于图片的简短文字描述 |
| 回答关于截图的问题 | 分析师 | 根据截图内容给出的文字回答 |
| 和原版模型对比 | 研究人员 | 两组可以并排阅读的回答 |
pip install -U huggingface_hub hf download lmstudio-community/Qwen3.8-27B-MLX-8bit
文件下载到 Mac 后,你给模型一张图片和一个文字问题,它就返回文字。来源只给出了下载这一步的命令。
hf download lmstudio-community/Qwen3.8-27B-MLX-8bit
| 工具 | 作用 |
|---|---|
| hf download | 把模型文件从 Hugging Face 下载到你的电脑 |
| pip install -U huggingface_hub | 安装或升级提供 hf 命令的包 |
| mlx_vlm | 制作这个 8 位副本所用的 MLX 库 |
比如你附上一张白板照片,问:“这块板上哪些任务没有负责人?”模型会读取图片,并用文字回复它找到的任务。
模型就是一个很大的文件,把输入变成回答。这个模型接收一张图片和一些文字,再用文字回答。你可以先跑那两条下载命令,看看文件夹里多了什么。
对熟悉这个领域的人来说,这是参数量 27.4B 的 Qwen3.8-27B,以 8 位存储,面向 Apple 的 MLX 框架,用 mlx_vlm 制作。文件使用 Safetensors 格式。精度降低后,相比原版可能损失一些准确度,而且这个副本针对 Apple Silicon 调优,不针对其他硬件。
在 Apple Silicon Mac 上运行 8 位 MLX 版本的 27B 图文模型,适合想在本地回答图片问题的人。
由 lmstudio-community 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:这是 Qwen3.8-27B 模型的 8 位 MLX 副本,由 LM Studio 团队为 Apple Silicon Mac 准备。模型接收一张图片加一段文字提示词,并用文字回答。它有 27.4B 参数。
适合谁:如果你有一台 Apple Silicon Mac,想在自己的电脑上运行一个能看图并写文字的大模型,它就适合你。
行业 | 谁在用 | 怎么用 | 例子
软件 | 应用开发者 | 在本地运行模型,回答关于截图的问题 | 开发者放入一张屏幕截图,问画面里有哪些按钮
研究 | 机器学习研究人员 | 把这个 8 位副本和原版模型做对比 | 研究人员用同一个图片问题问两个模型,再对比两份回答
教育 | 学生和爱好者 | 在个人 Mac 上试用大型图文模型 | 学生请模型描述一张图表
没有 Apple Silicon Mac,或更想用托管服务的人可以跳过它。
用在哪里:
用例 | 谁用 | 得到什么
描述一张图片 | 开发者 | 一段关于图片的简短文字描述
回答关于截图的问题 | 分析师 | 根据截图内容给出的文字回答
和原版模型对比 | 研究人员 | 两组可以并排阅读的回答
如何设置:
pip install -U huggingface_hub
hf download lmstudio-community/Qwen3.8-27B-MLX-8bit
如何使用:
文件下载到 Mac 后,你给模型一张图片和一个文字问题,它就返回文字。来源只给出了下载这一步的命令。
hf download lmstudio-community/Qwen3.8-27B-MLX-8bit
工具 | 作用
hf download | 把模型文件从 Hugging Face 下载到你的电脑
pip install -U huggingface_hub | 安装或升级提供 hf 命令的包
mlx_vlm | 制作这个 8 位副本所用的 MLX 库
示例:比如你附上一张白板照片,问:“这块板上哪些任务没有负责人?”模型会读取图片,并用文字回复它找到的任务。
新手与专家:模型就是一个很大的文件,把输入变成回答。这个模型接收一张图片和一些文字,再用文字回答。你可以先跑那两条下载命令,看看文件夹里多了什么。
对熟悉这个领域的人来说,这是参数量 27.4B 的 Qwen3.8-27B,以 8 位存储,面向 Apple 的 MLX 框架,用 mlx_vlm 制作。文件使用 Safetensors 格式。精度降低后,相比原版可能损失一些准确度,而且这个副本针对 Apple Silicon 调优,不针对其他硬件。
Qwen 发布 Qwen3.8-27B
LM Studio 团队制作 8 位 MLX 副本
你用 hf 下载文件
Mac 上的 MLX 工具加载它们
你发送图片和文字,它回写文字
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download lmstudio-community/Qwen3.8-27B-MLX-8bit
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Qwen3.8-27B-MLX-8bit 本页 | 2,683,350 | 56 | 27.4B | apache-2.0 | |
| Qwen3.6-35B-A3B-NVFP4-Fast共有 8-bit · qwen3_5 · image-text-to-text | 695,020 | 134 | 19.8B | apache-2.0 | |
| Qwen3.8-27B-Quark-AWQ-MXFP4共有 8-bit · qwen3_5 · image-text-to-text | 40,258 | 44 | 15.6B | apache-2.0 | |
| Qwen3.8-27B-NVFP4共有 8-bit · qwen3_5 · image-text-to-text | 979,445 | 126 | 18.2B | apache-2.0 | |
| Qwen3.8-27B-oQ8e-mtp共有 8-bit · qwen3_5 · image-text-to-text | 2,954 | 16 | 27.8B | apache-2.0 | |
| DeepSeek-V4.1-Flash共有 8-bit · image-text-to-text · conversational | 1,759,335 | 4,949 | 763B | mit |
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。