AI 智能体技能、规则与提示词工具包

DeepSeek-V4.1-Flash-1017-oQ4e-ngram-mtp

mlx-community · 工具包

DeepSeek-V4.1-Flash-1017 的混合精度 MLX 版本，把 Engram 表保留为 FP8。适合拥有数百 GB 内存、想用 MLX 工具运行该模型的人。

DeepSeek-V4.1-Flash-1017-GSQ-agentic-strata

kaushikvira · 工具包

把 763.2B 参数的 DeepSeek V4.1 Flash 做成 153 GiB 的混合精度版本，针对智能体和编程工作调校，在 strata 引擎上运行。适合有大显存 GPU 和大量内存的人。

Qwen3.8-27B-oQ8e-mtp

Jundot · 工具包

把 Qwen3.8-27B 做成 8 位混合精度的 MLX 检查点，带视觉编码器和 MTP 头，用于苹果硬件上的图文聊天。适合想在本地得到接近完整质量的人。

Qwen3.8-27B-oQ4e-mtp

Jundot · 工具包

在 MLX 上以约 17.5 GB 运行 27B 的 Qwen3.8 视觉语言模型，能读取文字、图片和视频，上下文为 262,144 个 token。这是 Jundot 的混合精度量化版本，适合内存有限的人。

GLM-5.3-Flash-oQ4e-mtp

Jundot · 工具包

zai-org 的 GLM-5.3-Flash 多模态混合专家模型的混合精度 MLX 副本，约每个权重 4.6 位，包含视觉编码器和多词元预测头。

Qwen3.5-9B-OptiQ-4bit

mlx-community · 工具包

Qwen3.5-9B 的 4-bit 混合精度 MLX 版本，用于在 Apple Silicon 上本地生成文本，自带多词元预测头。适合在 Mac 上本地运行模型的人。

Qwen3.8-27B-oQ6e-mtp

Jundot · 工具包

Qwen3.8-27B 的混合精度 MLX 副本，约每个权重 6.9 位，包含视觉编码器和多词元预测头，可在 Apple 芯片上本地运行。

Qwen3.6-35B-A3B-oQ6e-mtp

Jundot · 工具包

Qwen3.6-35B-A3B 的混合精度 MLX 副本，约每个权重 6.8 位，包含视觉编码器和多词元预测头，可在 Apple 芯片上本地运行。

Qwen3.8-27B iMatrix NVFP4 MTP GGUF

cdiamond · 工具包

Qwen3.8-27B 的 17.1 GB 混合精度 GGUF，保留了多词元预测层，为 24 GB GPU 上的 256K 上下文和视觉功能调优。适合在 llama.cpp 里本地运行大模型的人。

DeepSeek-V4.1-Flash-1017-oQ4e-mtp

mlx-community · 工具包

DeepSeek-V4.1-Flash-1017 的混合精度 MLX 版本，这是一个超大的多模态混合专家模型。适合拥有数百 GB 内存、想用 MLX 工具运行它的人。