Sage-A1.5 GGUF (Q4_K_M)

Sage-A1.5 GGUF (Q4_K_M)

以 4-bit GGUF 文件运行 Sage-A1.5，这是面向长篇科学任务的 35B 混合专家智能体模型。它能把工作分给子智能体并检查自己的进展，适用于 llama.cpp、Ollama 和 LM Studio。

由 InternScience 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这是 Sage-A1.5 的 Q4_K_M GGUF 副本，Sage-A1.5 是上海人工智能实验室 InternScience 团队推出的 35B 混合专家智能体模型。它基于 Qwen3.6 和 Agents-A1，用于长篇科学问题求解。4-bit 文件约 17.8 GB，可以在 LM Studio、Ollama、llama.cpp 或任何类似的 GGUF 工具里加载。

适合谁：适合想用本地智能体模型做多步分析、工具使用和探索性科学研究的研究人员和开发者。

Industry | Who uses it | How they use it | Example
科学研究 | 研究团队 | 把长问题拆成步骤，并一路核对证据 | 分给多个子智能体的文献分析
软件 | 智能体开发者 | 在本地模型上构建会用工具的智能体 | 调用代码解释器的智能体
教育 | 学生和老师 | 研究智能体如何规划并修正做法 | 一次多步分析的演示
数据分析 | 分析人员 | 做结果可检查的探索性分析 | 笔记本式的调查

如果你只需要快速的聊天回答，可以跳过它，因为它面向的是长篇多步任务。

用在哪里：

• llama.cpp、Ollama 和 LM Studio
• Windows、macOS 或 Linux 上其他兼容 GGUF 的程序
• 通过函数调用来使用工具的智能体环境

Use case | Who | What they get back
智能体编排 | 智能体开发者 | 由上下文相互独立的子智能体并行开展的调查
验证模式 | 研究人员 | 模型自身推理中的自我审查步骤
工具使用 | 开发者 | 对 API、代码解释器和搜索的函数调用

如何设置：

• Python，用来运行 Hugging Face 下载工具
• Q4_K_M 文件约需 17.8 GB 磁盘空间
• 一个能加载 GGUF 文件、且内存足以运行 35B 模型的程序

1. 用 pip 安装 Hugging Face 的 hub 工具。
2. 用 hf 命令下载 GGUF 文件。
3. 在 llama.cpp、Ollama、LM Studio 或其他 GGUF 程序里加载它。

pip install -U huggingface_hub
hf download InternScience/Sage-A1.5-Q4_K_M-GGUF

如何使用：在 GGUF 程序里加载文件，给它一个多步任务，以及它可以调用的工具。验证模式需要主动开启，模型卡说模型会在任务中途暂停，回顾哪些做成了、哪些失败了。

示例：你给模型一个研究问题和一个代码解释器工具。它把问题拆成步骤，可以把部分工作交给子智能体，核对证据，并返回一份你能检查的分析。

新手与专家：先用一个需要两三步和一个工具的简短任务。之后再开启验证模式，比较模型遇到死胡同时的处理方式。

模型卡描述了三种能力：通过上下文相互隔离的并行子智能体进行编排，通过进展和证据检查进行验证，以及开放式的科学探索。模型在自己的推理过程中审查自己，所以不需要单独的检查者。用于 Transformers、vLLM 和 SGLang 的基础权重在另一个仓库里。

给出多步任务和工具
模型规划并可能拆分工作
子智能体并行调查
模型核对证据
返回经过检查的结果

注意事项：

• License: Apache 2.0
• Cost to run: 本地文件没有提到费用，模型卡提到了一个托管服务的免费试用
• Data it reaches: 从 Hugging Face 下载文件，你连接的工具决定它还能访问什么
• Not for: Transformers、vLLM 或 SGLang，它们使用单独的原版权重

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：gguf
• 参数量：35.5B
• Weights: about 17.8 GB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：636,834
• 点赞：84
• 许可证：apache-2.0
• 基于：InternScience/Sage-A1.5
• Fine-tunes: 1
• 标签：gguf, vision, agentic, code, tool-use, text-generation, conversational

链接

• 模型：https://huggingface.co/InternScience/Sage-A1.5-Q4_K_M-GGUF
• 文件：https://huggingface.co/InternScience/Sage-A1.5-Q4_K_M-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download InternScience/Sage-A1.5-Q4_K_M-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。