来自 Hugging Face 的 AI 项目

DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF

ISTA-DASLab · 工具包

ISTA-DASLab 制作的 DeepSeek-V4.1-Flash-1017 专家剪枝加量化的 GGUF 版本，面向代码和智能体工作，transformer 权重为 72.1 GB。适合有大内存机器的开发者。

Qwen3.8-27B-GSQ-RCO-GGUF

ISTA-DASLab · 工具包

ISTA-DASLab 制作的 Qwen3.8-27B GGUF 版本，共四种大小，每个张量用各自的精度量化，并带有处理图片的视觉投影文件。适合在 llama.cpp、Ollama 或 LM Studio 里本地运行模型的人。

QuantBench

prajwalpujari16 · 工具包

一个浏览器工作室，用来探索每个权重低于一字节的 LLM 量化，有帕累托前沿探索器、BitNet 1.58b 位打包寄存器和层敏感度模拟器。适合工程师和学生。

GPT-X3-150M ONNX

ahmadw · 工具包

在 ONNX Runtime 上以五种精度运行 GPT-X3-150M，并比较它们的输出和速度，令牌在 CPU 上流式生成。适合权衡模型大小和质量的开发者。

Weightprint

tardellirs · 工具包

在一个静态页面里，通过比较权重和声明的父模型，测量一次微调改动了什么。适合想核实某个 Hub 模型到底是什么的人。

LLM VRAM Calculator

donaldJJ · 工具包

估算 Hugging Face 模型在任意量化和上下文长度下需要多少显存，拆成权重、KV 缓存和额外开销，并显示哪些 GPU 容量够用。适合计划在本地运行大模型的人。

MLX Model Explorer

mlx-community · 工具包

帮 Mac 用户找到适合自己机器的 MLX 模型和量化版本，是一个静态页面，在任何浏览器里打开即可，不需要安装。