来自 Hugging Face 的 AI 项目

DeepSeek-V4.1-Flash-1017-TrellisMX-FLARE

JMNI-Labs · 工具包

用压缩的 TrellisMX 包，在两台 NVIDIA DGX Spark 上提供带兼容 OpenAI API 的 DeepSeek V4.1 Flash 服务。适合在自己的 Spark 硬件上运行大模型的团队。

DeepSeek-V4.1-Flash-1017-FLARE

local-inference-lab · 工具包

为四卡 GPU 服务准备的 DeepSeek V4.1 Flash 1017 签名 Flare 运行时包，支持文本和图片，提供兼容 OpenAI 的 API。适合在自有 NVIDIA 硬件上运行大模型的人。

infersize

prajwalpujari16 · 工具包

一个浏览器工具，在你租用或购买硬件之前，估算 LLM 需要的 GPU 显存，比较 GPU，估算投机解码的延迟，并估算每百万 token 的云成本。