浏览 AI 技能、智能体和自动化

DeepSeek-V4.1-Flash-1017 iQ-MLX Pruned192 2.25bpw

ddalcu · 工具包

通过 mlx-serve 在 128 GB 内存的 Mac 上运行剪枝后的 2 位 DeepSeek-V4.1-Flash，保留 384 个专家中的 192 个和 1M token 上下文。在代码、推理和工具调用上表现最好。