来自 Hugging Face 的 AI 项目

Spark-X2.6-4B-FP8

XHToken · 工具包

面向设备端运行的 4.1B 参数紧凑文本模型，FP8 版本，有 none、low、high 三档思考等级，支持中英文。适合在小型硬件上做编程和智能体任务。

DeepSeek-V4.1-Flash-NVFP4

nvidia · 工具包

读取文本和图像并输出文本，是 NVIDIA 制作的 DeepSeek-V4.1-Flash 的 NVFP4 精简版本。适合在 NVIDIA Blackwell GPU 上部署智能体、聊天机器人和检索系统的开发者。

DeepSeek-V4.1-Flash-1017-oQ4e-ngram-mtp

mlx-community · 工具包

DeepSeek-V4.1-Flash-1017 的混合精度 MLX 版本，把 Engram 表保留为 FP8。适合拥有数百 GB 内存、想用 MLX 工具运行该模型的人。

LongCap-35B-A3B-FP8

JinchuanTian · 工具包

把最长约两小时的录音变成带起止时间的语音、音乐和声音事件时间线，也能转写语音并标出说话人。FP8 权重，适合单张 H100 80GB 显卡。

Qwen3.8-27B-NVFP4 Deployment Edition

IteraCompute · 工具包

用 vLLM 在一块 RTX 5090 上以 NVFP4 运行 Qwen3.8-27B，带校验和验证的下载、FP8 KV 缓存、工具调用和推理支持。适合在 Blackwell GPU 上自托管大模型的开发者。

KVARK Sparkle 1.0 (27B) FP8

Egzakta · 工具包

在 vLLM 上运行 FP8 格式的 27B 图文模型。和同规模的 Qwen 模型相比，它推理时用的词元少得多。适合自己托管模型的人。

Kvark-Sparkle-1.0-27B

Egzakta · 工具包

能处理图像和文字，推理时用的思考 token 比基座 Qwen3.8-27B 更少，据模型卡称，在相近的准确率下回答时间约减半。另有 FP8 和 GGUF 版本。

GigaChat3.5-432B-A28B

ai-sage · 工具包

用于俄语和英语的对话、代码、推理和工具调用文本生成。这是一个 432B 的混合专家模型，激活参数 28B，适合能自行部署大模型的团队。

Occamy-1.0

Accio-Lab · 工具包

Accio-Lab 推出的开放 35B 图文模型，基于 Qwen3.6-35B-A3B，提供 BF16、GGUF、FP8、NVFP4 和 MLX 格式。适合部署大模型的团队。

DeepSeek-V4-Pro

deepseek-ai · 工具包

用一个 1.6T 参数的混合专家模型生成文字，每个令牌激活 49B，最多可读入一百万个令牌。这是 DeepSeek 的预览版，适合能放下约 1,599 GB 权重的团队。

DeepSeek-V3.2

deepseek-ai · 工具包

DeepSeek 的 685B 开源推理模型，用稀疏注意力处理长上下文，聊天模板让它能一边思考一边调用工具。适合运行大模型和构建智能体的团队。

FLUX.1-schnell for ComfyUI

Comfy-Org · 工具包

为 ComfyUI 重新打包的 FLUX.1-schnell 检查点，把文字提示词变成图像，带有一个运行更快、占用内存更少的 FP8 文件。适合 ComfyUI 用户。

Ling-3.1-flash-1019

inclusionAI · 工具包

处理科学和智能体任务，总参数 560B，激活参数 25B，上下文 1M token，在 Ling-3.1-flash 基础上进一步调优。服务示例使用多 GPU 服务器上的 SGLang 和 vLLM，采用 MIT 许可。

Kolibri-1

Aleph-Alpha · 工具包

用德语和英语推理并调用工具，上下文窗口超过一百万 token。这是 Aleph Alpha 推出的开放 78B 混合专家模型，每个 token 只激活 3.46B 参数。

Qwen3.6-35B-A3B-FP8

Qwen · 工具包

读取文本和图像并输出文本，是 Qwen3.6-35B-A3B 的 FP8 版本，激活参数 3B。适合运行编程智能体、又想比全精度下载更小的开发者。

ttf-Qwen3.8-Flash-Next-GGUF

oguzeldereli · 工具包

用一个 40.4 GB 的 GGUF 文件运行被压成三值权重的 180B 混合专家模型 Qwen3.8-Flash-Next，比 FP8 版本小 4.6 倍。适合配合打过补丁的 llama.cpp 在本地使用。

DeepSeek-V4.1-Flash-1017-NVFP4

nvidia · 工具包

NVIDIA 制作的 DeepSeek AI 的 DeepSeek-V4.1-Flash-1017 的 NVFP4 量化版本，一个面向 NVIDIA Blackwell GPU 的超大多模态混合专家模型。

Ling-3.1-flash

inclusionAI · 工具包

处理复杂的智能体、搜索、办公和编程工作，总参数 560B，激活参数 25B，上下文 1M token。服务示例使用多 GPU 服务器上的 SGLang，权重以 MIT 许可开放。

DeepSeek-V4.1-Flash-1017-Sushi-STQ-1.75bpw

beamster · 工具包

让 261B 的 DeepSeek V4.1 Flash 模型在 Apple Silicon Mac 上通过 sushi 引擎运行，权重压到约每个 1.75 比特，支持图片输入，上下文最长 1,048,576 个词元。

Qwen3.8-27B NVFP4

nvidia · 工具包

NVIDIA 把阿里巴巴 Qwen3.8-27B 压缩成 4 位 NVFP4 的版本，用 Model Optimizer 制作，面向 Blackwell GPU，输入文字、图片和视频，输出文字。