Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
面向长篇研究任务的推理模型,能处理文件、数据、代码和工具,以 GGUF 文件提供,可以自己托管。适合自己运行模型的研究者和开发者。
Apodex-1.1-mini-GGUF 是一款工具包,属于研究类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download apodex/Apodex-1.1-mini-GGUF
这是 Apodex 1.1 mini 的 GGUF 版本,一个以推理为先、面向长篇复杂研究任务的模型。它基于 Qwen3.5-35B-A3B,有 355 亿参数。它的目标是把任务从原始输入做到可核查的成品,过程中会用到文件、数据和代码。
想自己托管模型、处理文档和数据的多步骤工作的研究者、分析师和开发者。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 科研 | 研究者 | 交出论文和数据集,要求做分析并核查论点 | 一份数据集经过清洗、分析,写成带来源的报告 |
| 金融 | 分析师 | 在一个长任务里处理电子表格和财务问题 | 根据多个文件建立的公司模型 |
| 软件 | 开发者 | 在 OpenAI 风格的服务器后运行模型,并接入自己的工具 | 一个会调用工具并展示推理的智能体 |
| 专业服务 | 顾问 | 把一长份工作的某些部分交出去,过程中补充文件 | 新文件到达后修订的报告 |
如果你需要能在普通笔记本上运行的小模型,可以跳过它,因为即使是 4-bit,权重也约有 17.8 GB。
| Use case | Who | What they get back |
|---|---|---|
| 长篇研究任务 | 研究者 | 一份基于论文、数据和代码的成品,论点已核查 |
| 调用工具的智能体 | 开发者 | 通过标准字段返回的工具调用和推理 |
| 并行子任务 | 团队 | 多个子智能体共享同一个任务状态,并根据反馈调整 |
你需要装有 pip 的 Python、一台能容纳 35.5B 模型的机器,以及 4-bit 大小所需的约 17.8 GB 磁盘空间,这是估计值。
1. 安装 Hugging Face hub 工具并下载文件。
pip install -U huggingface_hub hf download apodex/Apodex-1.1-mini-GGUF
2. 用与 Qwen3.5 聊天模板匹配的解析器,在下载好的 GGUF 文件上启动你自己的服务器。 3. 确认回复带有标准的 tool_calls 和 reasoning_content 字段。
用 Qwen3.5 模板发送聊天请求。工具调用和推理会出现在各自的标签里,匹配的解析器会把它们转成标准字段。要用完整的智能体方案,模型卡指向作者发布的 Agent Team 代码。
hf download apodex/Apodex-1.1-mini-GGUF
| Tool | What it does |
|---|---|
| hf download | 把这个仓库的文件下载到你的电脑 |
| Agent Team | 把任务拆给多个共享同一任务状态的子智能体 |
| Statement Review | 交付前对照来源、数据和计算核查关键论点 |
你让模型清洗一份调查问卷表格,比较两组人群,并写出带来源的结论。它会逐步完成,运行中可以接收新文件,交回报告前会对照数据核查主要论点。
如果你是新手,先下载文件并启动本地服务器,再针对单个文件问一个问题。等普通回复正常后再接入工具。
如果你熟悉这个领域,模型卡描述了一个建立在 AgentOS 之上的异步 Agent Team,它保持任务状态、调整计划并并行运行子智能体。权重遵循 Qwen3.5 聊天模板。代价是体积,355 亿参数的模型即使量化后也需要像样的硬件。
模型卡给出了 mini 模型自己的基准分数,请把它们当作作者给出的数字。
面向长篇研究任务的推理模型,能处理文件、数据、代码和工具,以 GGUF 文件提供,可以自己托管。适合自己运行模型的研究者和开发者。
由 apodex 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:这是 Apodex 1.1 mini 的 GGUF 版本,一个以推理为先、面向长篇复杂研究任务的模型。它基于 Qwen3.5-35B-A3B,有 355 亿参数。它的目标是把任务从原始输入做到可核查的成品,过程中会用到文件、数据和代码。
适合谁:想自己托管模型、处理文档和数据的多步骤工作的研究者、分析师和开发者。
Industry | Who uses it | How they use it | Example
科研 | 研究者 | 交出论文和数据集,要求做分析并核查论点 | 一份数据集经过清洗、分析,写成带来源的报告
金融 | 分析师 | 在一个长任务里处理电子表格和财务问题 | 根据多个文件建立的公司模型
软件 | 开发者 | 在 OpenAI 风格的服务器后运行模型,并接入自己的工具 | 一个会调用工具并展示推理的智能体
专业服务 | 顾问 | 把一长份工作的某些部分交出去,过程中补充文件 | 新文件到达后修订的报告
如果你需要能在普通笔记本上运行的小模型,可以跳过它,因为即使是 4-bit,权重也约有 17.8 GB。
用在哪里:
Use case | Who | What they get back
长篇研究任务 | 研究者 | 一份基于论文、数据和代码的成品,论点已核查
调用工具的智能体 | 开发者 | 通过标准字段返回的工具调用和推理
并行子任务 | 团队 | 多个子智能体共享同一个任务状态,并根据反馈调整
如何设置:你需要装有 pip 的 Python、一台能容纳 35.5B 模型的机器,以及 4-bit 大小所需的约 17.8 GB 磁盘空间,这是估计值。
pip install -U huggingface_hub
hf download apodex/Apodex-1.1-mini-GGUF
如何使用:用 Qwen3.5 模板发送聊天请求。工具调用和推理会出现在各自的标签里,匹配的解析器会把它们转成标准字段。要用完整的智能体方案,模型卡指向作者发布的 Agent Team 代码。
hf download apodex/Apodex-1.1-mini-GGUF
Tool | What it does
hf download | 把这个仓库的文件下载到你的电脑
Agent Team | 把任务拆给多个共享同一任务状态的子智能体
Statement Review | 交付前对照来源、数据和计算核查关键论点
示例:你让模型清洗一份调查问卷表格,比较两组人群,并写出带来源的结论。它会逐步完成,运行中可以接收新文件,交回报告前会对照数据核查主要论点。
新手与专家:如果你是新手,先下载文件并启动本地服务器,再针对单个文件问一个问题。等普通回复正常后再接入工具。
如果你熟悉这个领域,模型卡描述了一个建立在 AgentOS 之上的异步 Agent Team,它保持任务状态、调整计划并并行运行子智能体。权重遵循 Qwen3.5 聊天模板。代价是体积,355 亿参数的模型即使量化后也需要像样的硬件。
你给出任务和文件
Agent Team 拆分工作
子智能体更新共享任务状态
Statement Review 核查关键论点
你得到可核查的成品
注意事项:模型卡给出了 mini 模型自己的基准分数,请把它们当作作者给出的数字。
Title: Apodex-1.1-mini 基准分数
FrontierFinance: 50.2
APEX-Agents: 27.7
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download apodex/Apodex-1.1-mini-GGUF
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Apodex-1.1-mini-GGUF 本页 | 479 | 22 | 35.5B | apache-2.0 | |
| Axion-1.0-35B共有 agent · text-generation · conversational | 1,535 | 76 | 35.1B | apache-2.0 | |
| MiroThinker-v1.0-8B共有 agent · text-generation · conversational | 509 | 69 | 8.2B | mit | |
| Tev-320B共有 agent · text-generation · conversational | 495 | 17 | 321B | cc-by-nc-4.0 | |
| ConeML 1.2B Experimental共有 gguf · text-generation · conversational | 440 | 2 | 1.2B | cc-by-nc-4.0 | |
| Sage-A1.5 GGUF (Q4_K_M)共有 gguf · text-generation · conversational | 636,834 | 84 | 35.5B | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
AbdomenAtlas · 工具包
在 CT 扫描上检测并勾画 9 个器官的肿瘤,使用从放射学报告中学习的 R-Super 方法训练。这是面向医学影像团队的研究模型,采用非商业许可。
dBenf · 工具包
回答关于卫星图像块的类型化问题,使用 Sentinel-2 的全部 12 个波段,为每个选项返回概率,不生成文字。这是 Qwen3.5-0.8B 的微调版本,适合地球观测研究者。
zimmerk4 · 工具包
用一个在 JAX 物理模拟器里学会的小型策略网络,从头到尾通关游戏 Getting Over It。适合强化学习研究者和好奇的动手爱好者。