ttf-Qwen3.8-Flash-Next-GGUF
oguzeldereli · 工具包
用一个 40.4 GB 的 GGUF 文件运行被压成三值权重的 180B 混合专家模型 Qwen3.8-Flash-Next,比 FP8 版本小 4.6 倍。适合配合打过补丁的 llama.cpp 在本地使用。
没有商品同时包含“exbert”的所有词。下面显示匹配“expert”的结果。
oguzeldereli · 工具包
用一个 40.4 GB 的 GGUF 文件运行被压成三值权重的 180B 混合专家模型 Qwen3.8-Flash-Next,比 FP8 版本小 4.6 倍。适合配合打过补丁的 llama.cpp 在本地使用。
LiquidAI 的稀疏混合专家模型 LFM2.5-8B-A1B 的 GGUF 版本,加入 DavidAU 的 Turbo Brilliance 系统和 12 种推理模式。8.5B 的实验性发布,供本地运行。
XingChen-AGI · 工具包
用于生成文本,处理规划和调用工具等多步骤任务,支持中英文和 256K 上下文。这是一个混合专家模型,适合自行部署运行的开发者。
nvidia · 工具包
NVIDIA 制作的 DeepSeek AI 的 DeepSeek-V4.1-Flash-1017 的 NVFP4 量化版本,一个面向 NVIDIA Blackwell GPU 的超大多模态混合专家模型。
KRAFTON · 工具包
在 llama.cpp 中运行一个 28.8B 的混合专家模型,针对韩语对话、推理和调用工具的智能体做过优化。这是 Raon-1 mini preview 的 GGUF 版本,适合在自己电脑上运行模型的人。
JetBrains · 工具包
12B 混合专家思考模型,激活参数 2.5B,在真实代码仓库中用强化学习训练,面向编程智能体、数学和困难推理。由 JetBrains 打造,上下文 131,072 token。
InternScience · 工具包
以 4-bit GGUF 文件运行 Sage-A1.5,这是面向长篇科学任务的 35B 混合专家智能体模型。它能把工作分给子智能体并检查自己的进展,适用于 llama.cpp、Ollama 和 LM Studio。
beipo-ai · 工具包
读取截图和请求,然后规划并发出操作桌面或浏览器的动作。这是基于 Qwen3.5 的 35B 混合专家计算机操作模型,激活参数 3B。
lapadatbogdan · 工具包
在家用电脑上运行裁剪过的 GLM-5.3-Flash 编程和智能体模型,提供五种量化大小的 GGUF 文件。每层保留 288 个专家中的 152 个,把 321B 模型缩小到约 170B。
InternScience · 工具包
作为智能体处理长篇科学任务,能委派给子智能体、检查自己的进展并修订计划。这是面向研究和工程工作流的 35B 混合专家模型。
empero-ai · 工具包
回答前先一步步推理,使用 35B 的混合专家模型,每个词元只激活约 3B 参数。由 Qwen3.8 教师推理轨迹蒸馏而来,侧重数学和代码。
Wan-AI · 工具包
用混合专家视频模型,根据文字提示词生成 5 秒、480P 或 720P 的视频。适合想用开源文生视频模型的创作者和开发者。
peasantsmith · 工具包
GLM-5.3-Flash 的五个 GGUF 压缩版本,GLM-5.3-Flash 是 321B 的混合专家模型,大小从 73.4 GB 到 156.3 GB,为 Project Maya 制作,它把模型分摊到 GPU、内存和固态硬盘上。
KRAFTON · 工具包
能聊天和推理,尤其擅长韩语,并可执行调用工具的智能体任务。这是一个 28.8B 的混合专家模型,每个词元激活 4.3B 参数,上下文 262,144 个词元。KRAFTON AI 的预览版本。
jesdga · 工具包
把 DeepSeek V4.1 Flash 打包成单个模型文件供 Basalt 引擎使用,它在一张 NVIDIA Blackwell GPU 上运行,放不下的专家由系统内存承担。支持图片,上下文最长 1,048,576 个词元。
empero-ai · 工具包
用十种尺寸的 GGUF 文件运行一个 35B 混合专家模型,每个 token 约 3B 参数在工作,另附视觉投影文件。适合 llama.cpp、Ollama、LM Studio、Jan 和 KoboldCpp 用户。
unsloth · 工具包
用 Unsloth 的 GGUF 文件运行 Flint,这是面向编程智能体的 39.8B 混合专家模型,每个词元只用约 2.5B 参数。适合在本地运行编程智能体的开发者。
deepseek-ai · 工具包
DeepSeek 的预览版混合专家语言模型,总参数 284B,每个词元用 13B,上下文一百万词元。是 DeepSeek-V4-Pro 的较小兄弟。适合实验室和重度自托管。
ornith-ai · 工具包
运行一个面向编程和智能体任务的 35B 混合专家文本模型,每个词元只用约 3B 参数。这个仓库提供它的 GGUF 文件,供本地使用。
unsloth · 工具包
用 Unsloth 的 GGUF 文件运行 Qwen3.6-35B-A3B,这是能读图和文字的混合专家模型,每个词元只用约 3B 参数。适合在本地运行大模型的开发者。
thinkingmachines · 工具包
读取文字、图像和音频并用文字回答,面向开发助手、编程工具和智能体的开发者。这是稀疏混合专家模型,总参数 276B,每个词元激活 12B。
tencent · 工具包
用一个 770B 参数的混合专家模型生成文字、代码和文档,它激活 49B 个参数,支持最长 1M 的上下文。适合有硬件来托管超大开放权重的团队。
Qwen · 工具包
用一个 35B 的混合专家模型处理编程、仓库级推理和图文输入,它激活 3B 个参数。适合在 transformers、vLLM 或 SGLang 里运行开放权重的开发者。
Axion1-0 · 工具包
Axion 1.0-35B 的复现检查点,一个 35B 混合专家模型,面向科学推理、信息检索和借助工具解决问题,用 vLLM 部署。适合研究人员和智能体开发者。
ISTA-DASLab · 工具包
DeepSeek-V4.1-Flash-1017 的 GGUF 版本,有三种很小的尺寸,每个张量用各自的精度量化,适合在有限硬件上运行超大混合专家模型的人。
ISTA-DASLab · 工具包
Qwen3.8-Flash-Next 的偏编程 GGUF 版本,去掉了一半专家,把 BF16 的 354 GB 缩到 58.4 GB,同时保留图片输入,适合有大机器、想在本地用编程模型的人。
RecursiveSI · 工具包
为编程智能体打造的 39.8B 混合专家语言模型,能调查代码库、修复 bug、实现功能并编写测试,适合在 GPU 服务器上运行自己智能体的开发者。
ISTA-DASLab · 工具包
Qwen3.8-Flash-Next 的 GGUF 版本,有四种大小,每个张量用各自的精度量化,并带有支持图片输入的视觉投影文件,适合在本地运行大型混合专家模型的人。
ISTA-DASLab · 工具包
ISTA-DASLab 制作的 DeepSeek-V4.1-Flash-1017 专家剪枝加量化的 GGUF 版本,面向代码和智能体工作,transformer 权重为 72.1 GB。适合有大内存机器的开发者。
deepseek-ai · 工具包
DeepSeek 的多模态混合专家模型,骨干有 552B 参数,上下文长达一百万个 token,专为降低长输入智能体工作的 KV 缓存成本而设计。适合有大型 GPU 集群的团队。
meituan-longcat · 工具包
美团 LongCat 的多模态混合专家模型,面向长时间的智能体任务和编程,总参数约 1.6 万亿,每个 token 激活 480 亿。适合有大型 GPU 集群的实验室和团队。
launch · 工具包
一个 ExpertLongBench 的 Streamlit 排行榜页面,用 Docker 打包,并关联同名数据集。README 除了排行榜标题和 Streamlit 起步说明外几乎没有别的文字。
ssinder · 技能
为 AI 编程智能体提供计算生物学技能,涵盖 RNA-seq、单细胞分析、蛋白质结构、分子动力学、多肽设计、文献挖掘和论文图表。
AvdLee · 技能
Antoine van der Lee 做的免费技能,用来在 iOS 和 macOS 上编写、审查和重构 SwiftUI 代码。它涵盖状态、布局、性能、列表、动画、Liquid Glass 和 API 迁移,还能在 Mac 上录制和读取 Instruments 跟踪记录。
clawgeek · 工具包
挑出符合你每日热量和钠目标的麦当劳餐品,再帮你下单并记录,适合控制体重或增肌的人。
JustVugg · 工具包
这是一个分层推理引擎,通过从 NVMe 存储中流式传输专家模型,同时将密集层保留在内存中,从而运行大型混合专家模型。它通过 CUDA 和 Vulkan 为开发者支持多种硬件配置。
microsoft · 工具包
微软出的免费 AI 课程,为期 12 周、共 24 节课,配有测验、Jupyter 笔记本和实验。内容从 AI 的历史和专家系统,讲到神经网络、计算机视觉和语言模型,最后是伦理。安装说明涵盖 Miniconda、容器、Codespaces 和 Binder。