DeepSeek-V4.1-Flash-1017 EXL3 2.9 bpw
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
写代码、审代码用的提示词、编程智能体任务说明和工具包,花更少的 Token。
没有商品同时包含“deepseekv4”的所有词。下面显示匹配“deepseek”的结果。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
JMNI-Labs · 工具包
用压缩的 TrellisMX 包,在两台 NVIDIA DGX Spark 上提供带兼容 OpenAI API 的 DeepSeek V4.1 Flash 服务。适合在自己的 Spark 硬件上运行大模型的团队。
philbert440 · 工具包
在八块 Tesla V100 32 GB 显卡上,以完整的 100 万词元上下文运行 DeepSeek V4.1 Flash,用的是 EXL3 专家包和 SM70 版 vLLM。适合拥有这类服务器的人。
nvidia · 工具包
读取文本和图像并输出文本,是 NVIDIA 制作的 DeepSeek-V4.1-Flash 的 NVFP4 精简版本。适合在 NVIDIA Blackwell GPU 上部署智能体、聊天机器人和检索系统的开发者。
mlx-community · 工具包
DeepSeek-V4.1-Flash-1017 的混合精度 MLX 版本,把 Engram 表保留为 FP8。适合拥有数百 GB 内存、想用 MLX 工具运行该模型的人。
local-inference-lab · 工具包
为四卡 GPU 服务准备的 DeepSeek V4.1 Flash 1017 签名 Flare 运行时包,支持文本和图片,提供兼容 OpenAI 的 API。适合在自有 NVIDIA 硬件上运行大模型的人。
kaushikvira · 工具包
把 763.2B 参数的 DeepSeek V4.1 Flash 做成 153 GiB 的混合精度版本,针对智能体和编程工作调校,在 strata 引擎上运行。适合有大显存 GPU 和大量内存的人。
ggml-org · 工具包
DeepSeek 的 748B 模型 V4.1 Flash 1017 的 GGUF 文件,由 ggml-org 转换并附带处理图片的视觉文件,适合有大内存机器、通过 llama.cpp 工具运行模型的人。
deepseek-ai · 工具包
DeepSeek 的 685B 开源推理模型,用稀疏注意力处理长上下文,聊天模板让它能一边思考一边调用工具。适合运行大模型和构建智能体的团队。
antirez · 工具包
为 Mac 用户提供 DeepSeek V4.1 Flash 经过校准的 2 位和 4 位 GGUF 文件,另有单独的视觉编码器,供 DwarfStar 的 Metal 引擎配合 SSD 流式加载使用。与其他 DeepSeek 权重不通用。
mlx-community · 工具包
DeepSeek-V4.1-Flash-1017 的混合精度 MLX 版本,这是一个超大的多模态混合专家模型。适合拥有数百 GB 内存、想用 MLX 工具运行它的人。
通过 mlx-serve 在 128 GB 内存的 Mac 上运行剪枝后的 2 位 DeepSeek-V4.1-Flash,保留 384 个专家中的 192 个和 1M token 上下文。在代码、推理和工具调用上表现最好。
turboderp · 工具包
在 ExLlamaV3 里以每权重 1.68、2.25 或 2.68 比特运行压缩后的 DeepSeek-V4.1-Flash-1017。适合在自己的硬件上运行大模型、想少占内存的人。
brandonmusic · 工具包
DeepSeek-V4.1-Flash-1017 的压缩版本,按两张 96 GB 显卡的规格设计,少数专家用更高精度存储。这是面向大模型部署者的研究版本。
peasantsmith · 工具包
通过为 Project Maya 制作的两种 GGUF 量化版本,在家用电脑上运行 748B 的 DeepSeek 混合专家模型。适合有大内存机器和高速 SSD 的人。
nvidia · 工具包
NVIDIA 制作的 DeepSeek AI 的 DeepSeek-V4.1-Flash-1017 的 NVFP4 量化版本,一个面向 NVIDIA Blackwell GPU 的超大多模态混合专家模型。
Mia-AiLab · 工具包
DeepSeek-V4.1-Flash-1017 的 2.9 bits-per-weight EXL3 量化版本,能读取文本和图片。它把模型压缩到约 210 GB,供 exllamav3 运行时使用,模型卡还测量了它与原模型的贴近程度。
diffbot · 工具包
在两张 96 GB 的 RTX PRO 6000 Blackwell 显卡上用 vLLM 运行 DeepSeek-V4.1-Flash-1017 的 3 位压缩版,适合在自己硬件上部署大型编程和智能体模型的开发者。
beamster · 工具包
让 261B 的 DeepSeek V4.1 Flash 模型在 Apple Silicon Mac 上通过 sushi 引擎运行,权重压到约每个 1.75 比特,支持图片输入,上下文最长 1,048,576 个词元。
jesdga · 工具包
把 DeepSeek V4.1 Flash 打包成单个模型文件供 Basalt 引擎使用,它在一张 NVIDIA Blackwell GPU 上运行,放不下的专家由系统内存承担。支持图片,上下文最长 1,048,576 个词元。
deepseek-ai · 工具包
用 684B 的推理模型生成文本,该模型主要通过强化学习训练,面向数学、代码和逻辑。适合自己托管大型开源模型的研究人员和团队。
deepseek-ai · 工具包
DeepSeek 的预览版混合专家语言模型,总参数 284B,每个词元用 13B,上下文一百万词元。是 DeepSeek-V4-Pro 的较小兄弟。适合实验室和重度自托管。
ISTA-DASLab · 工具包
DeepSeek-V4.1-Flash-1017 的 GGUF 版本,有三种很小的尺寸,每个张量用各自的精度量化,适合在有限硬件上运行超大混合专家模型的人。
unsloth · 工具包
Unsloth 制作的 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本,这是一个巨大的图文模型,可在 128 GB 或更多内存的机器上本地运行,适合自己运行大型开放模型的人。
ISTA-DASLab · 工具包
ISTA-DASLab 制作的 DeepSeek-V4.1-Flash-1017 专家剪枝加量化的 GGUF 版本,面向代码和智能体工作,transformer 权重为 72.1 GB。适合有大内存机器的开发者。
deepseek-ai · 工具包
DeepSeek 的多模态混合专家模型,骨干有 552B 参数,上下文长达一百万个 token,专为降低长输入智能体工作的 KV 缓存成本而设计。适合有大型 GPU 集群的团队。
deepseek-ai · 工具包
和 DeepSeek 的 Janus-Pro-7B 模型聊天,它既能理解图片也能生成图片,生成的图片会做 2 倍放大。适合想在浏览器里试用多模态模型的人。
ongudidan · 工具包
一个由 DeepSeek AI 驱动的编程平台,根据你的要求生成应用。适合想把生成式 AI 用进编码工作的开发者、数据科学家和 AI 工程师。
n8n 工作流
一块 n8n 画布,四种接入 DeepSeek 的方式:Ollama 上的本地 R1 模型回答聊天,两个直接调用 API 的请求(开思考和关思考),还有一个带记忆的智能体。
deepseek-ai · 工具包
面向推理、编程和智能体任务的图文模型,上下文窗口为 1M 个 token,由 DeepSeek-V4.1-Flash 更新而来。适合构建智能体的开发者。
aicodeking · 技能
帮助 DeepSeek V4.1 Flash 和 V4 Pro 先做计划、检查自己的工作并在设定的点停下,让较便宜的模型表现得更像昂贵的模型。适合使用能读取 SKILL.md 文件的编程智能体的开发者。
openinterpreter · 工具包
新的 Rust 版 Open Interpreter,一个跑在终端里的编程智能体,基于 OpenAI 的 Codex。模型由你自己带,从 ChatGPT 或 API 密钥,到 Kimi K3、DeepSeek、GLM 或本地模型都行。它可以照搬另一个智能体的提示词和工具,来适配低成本模型。
ranxianglei · 工具包
ranxianglei 做的本地代理,用于编程智能体的长会话。它把旧的对话折叠成以后还能展开的摘要,让一个会话在小窗口里也能连续跑上好几天。支持 Claude Code、Codex、OpenCode、pi、DeepSeek 的 dsh,另外还支持大约二十个客户端。