Occamy-1.0

Occamy-1.0

Accio-Lab 推出的开放 35B 图文模型，基于 Qwen3.6-35B-A3B，提供 BF16、GGUF、FP8、NVFP4 和 MLX 格式。适合部署大模型的团队。

由 Accio-Lab 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Occamy-1.0 是 Accio-Lab 推出的开放 35B 图文模型，基于 Qwen3.6-35B-A3B 构建，以 Apache 2.0 发布。作者把它定位为面向协同工作的开放模型。它能读图片和文字，并以文字作答。同一个模型有多种格式，比如 BF16、GGUF、FP8、NVFP4 和 MLX，分别适配不同的运行时。

适合谁：适合想要一个能读图片和文字的大型开放模型、并能挑选适合自己硬件和运行时的格式的开发者和团队。

行业 | 谁在用 | 怎么用 | 例子
软件 | AI 工程师 | 用 vLLM 或 SGLang 提供 35B 图文模型 | 回答截图相关问题的私有助手
AI 爱好者 | 本地模型爱好者 | 在家用硬件上用 llama.cpp 运行 GGUF 版本 | 用压缩副本进行本地聊天
研究 | 模型评估者 | 比较从 BF16 到 3 位的各种格式 | 测试体积变化如何影响回答
商业 | 运营团队 | 在自己的服务器上使用协同工作式的助手 | 处理内部文档和图片的帮手

如果你需要小模型，可以跳过它，因为列出的最小 GGUF 也有约 11.66 GB。

用在哪里：主检查点可在 Transformers、SGLang 或 vLLM 中运行，GGUF 在 llama.cpp 中运行，MLX 版本在 mlx-lm 中运行，且只支持文字。

• 与你所选检查点相匹配的运行时
• 运行完整 BF16 检查点的 GPU 服务器，它的权重有 70.22 GB
• 带 mlx-lm 的 Mac，用于仅文字的 MLX 版本，不过模型卡写明 Mac 上的验收仍在等待中

使用场景 | 谁用 | 得到什么
图片提问 | 开发者 | 用 BF16 检查点得到关于图片的文字回答
文字聊天 | 爱好者 | 来自压缩的 GGUF 或 MLX 副本的回复
格式测试 | 研究人员 | 在众多检查点之间的体积和运行时选择

如何设置：选一个检查点，确认你的硬件放得下它的权重，然后下载。下面的下载命令会获取很大的主 BF16 仓库。

• 装有 pip 的 Python，用于下载工具
• 至少 70.22 GB 的磁盘空间放 BF16 权重，压缩格式则更少
• vLLM、SGLang 或 llama.cpp 这样的运行时

1. 安装 Hugging Face 下载工具。
2. 下载主仓库，或者从作者的合集里选另一种格式。
3. 按模型卡的描述，用你的运行时启动这些文件。

pip install -U huggingface_hub
hf download Accio-Lab/occamy-1.0

如何使用：在你的运行时里提供这个检查点的服务，发送文字，对于支持视觉的格式还可以发送图片。模型卡指向一个交互式检查点浏览器，用来选择格式并复制部署命令，完整的命令在模型页面上。

工具 | 作用
BF16 检查点 | 原始权重，支持文字和视觉
GGUF 文件 | 给 llama.cpp 用的压缩副本
FP8 和 NVFP4 | 适合兼容 GPU 服务器的更小格式
MLX 版本 | 给 mlx-lm 用的仅文字副本
检查点浏览器 | 帮你挑选格式并复制它的命令

示例：下载 BF16 检查点并用 vLLM 提供服务，模型卡用九个兼容性用例检查过它。发送一张截图并问它显示了什么。你会在自己的服务器上得到 35B 模型给出的文字回答。

新手与专家：一个大模型可以用不同的格式存储。有些保持全精度，需要很多内存，另一些用更少的位数，可以放进更小的机器。第一个小尝试，是在 llama.cpp 里使用一个 GGUF 文件。

对熟悉这个领域的人来说，模型卡按格式记录验证情况，从 BF16 和 FP8 的 vLLM 兼容性检查，到 GGUF 的 llama.cpp 抽样。NVFP4 副本是只针对专家层的混合精度版本。模型卡说每个 MLX 副本在 Mac Metal 上的验收仍然待定。

从 Qwen3.6-35B-A3B 开始
用作者的 Dressage 框架训练 Occamy-1.0
发布 BF16 检查点
转换成 GGUF、FP8、NVFP4 和 MLX
选择适合你运行时的格式

注意事项：这个页面介绍的是检查点格式。作者还发布了技术报告，质量方面的结果请到那里查看。

• 格式：有 17 个 GGUF 变体，从 IQ2_M 到 Q8_0，另外还有 APEX GGUF 配置。
• 视觉：MLX 版本只接受文字。
• 社区：其他人已经做出了 36 个量化版本。

Title: 各格式的权重大小，单位 GB
BF16: 70.22 GB
MLX 8-bit: 36.83 GB
FP8: 36.61 GB
NVFP4: 23.93 GB
MLX 4-bit: 19.51 GB
MLX 3-bit: 15.18 GB

Title: GGUF 大小范围，单位 GB
最小的变体: 11.66 GB
最大的变体: 36.90 GB

• License: Apache 2.0。
• Cost to run: 未提及，来源没有列出 API 密钥、账号或付费服务，不过 35B 模型需要一台内存很大的机器。
• Data it reaches: 只有你发给自己运行时的文字和图片，以及你下载的文件。
• Not for: 小型机器，或者在 MLX 版本上输入图片，它们只接受文字。

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：35.1B
• Weights: about 70.2 GB in BF16; about 17.6 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：1,807
• 点赞：240
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.6-35B-A3B
• Quantized versions: 36
• Fine-tunes: 1
• 标签：transformers, safetensors, qwen3_5_moe, image-text-to-text, agent, agentic, co-work, tool-use, long-context, mixture-of-experts, coding, conversational

链接

• 模型：https://huggingface.co/Accio-Lab/occamy-1.0
• 文件：https://huggingface.co/Accio-Lab/occamy-1.0/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Accio-Lab/occamy-1.0

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。