VRAM & GPU Cost Calculator

VRAM & GPU Cost Calculator

估算 Hugging Face 模型运行或微调需要多少 GPU 显存，并列出最便宜的 GPU 配置和实时租用价格。适合计划托管或训练模型的人。

由 fastgpu 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的，应用自己的文件和许可证在 Hugging Face 上。

简介

它是什么：VRAM & GPU Cost Calculator 是一个浏览器页面，用来估算模型需要的 GPU 显存。你选一个 Hugging Face 模型，它就会按运行、LoRA 微调、完整微调、生成、转写或嵌入来估算显存。然后列出放得下的最便宜 GPU 配置，并实时报价。

适合谁：它适合计划托管或训练模型、想在花钱之前先知道该租什么硬件的人。

行业 | 谁在用 | 怎么用 | 例子
机器学习 | 机器学习工程师 | 检查哪些 GPU 能放下一个模型 | 查找一个模型，看最便宜的配置
创业公司 | 创始人 | 估算向用户提供模型服务的成本 | 查看按每百万 token 建模的成本
研究 | 研究人员 | 规划一次微调 | 比较 LoRA 和完整微调的显存
业余 AI | 爱好者 | 看一个模型能否放进家用 GPU | 试试 4 位设置

如果你需要实测的基准数据，可以跳过它，因为服务成本是模型估算，真实的服务栈通常更差。

用在哪里：

• 浏览器：打开 Hugging Face 上这个 Space 的页面，不需要登录
• 页面文件的本地副本：在 Windows、macOS 或 Linux 上，从 index.html 打开

使用场景 | 谁用 | 得到什么
估算模型的显存 | 工程师 | 按你选的任务和精度算出的 GPU 显存需求
寻找便宜硬件 | 创始人 | 放得下模型的 GPU 配置，实时报价，并附每个报价的链接
估算服务成本 | 运维人员 | 按每 1M token 建模的成本，并展示计算过程

如何设置：在线页面不需要准备任何东西，也不要求登录。本地副本只在获取文件时需要 Python。

• 一个网页浏览器
• Python 和 pip，仅获取本地副本时需要
• 本地副本需要 Windows、macOS 或 Linux

1. 安装 Hugging Face hub 库。
2. 把 Space 的文件下载到名为 vram-and-gpu-cost-calculator 的文件夹。
3. 进入该文件夹。
4. 在浏览器中加载 index.html。

pip install -U huggingface_hub
hf download fastgpu/vram-and-gpu-cost-calculator --repo-type space --local-dir vram-and-gpu-cost-calculator
cd vram-and-gpu-cost-calculator

如何使用：在搜索框里选一个模型，或者粘贴它的组织名和名称。如果 Hub 里没有你的模型，就输入它的大小，例如 70B。然后查看显存数字、GPU 配置和服务成本。

工具 | 作用
搜索框 | 列出数千个热门的公开模型，输入时会退回到 Hub 自带的搜索
精度 | 选择估算用的数字格式：按模型发布时的格式，或 16、8、4 位
权重菜单 | 对于 GGUF 仓库，列出每个版本及其文件大小，按你选的文件来估算显存
请求数和上下文 | 设置同时有多少请求、上下文多长，默认是一个请求、4K token

示例：你输入 70B，因为这个模型不在 Hub 上。页面显示这个大小的模型需要多少 GPU 显存，然后列出放得下它的最便宜配置及其实时价格。

新手与专家：VRAM 是显卡上的内存，模型必须放得进去才能顺畅运行。先选一个你熟悉的模型，看看页面列出的最便宜配置。

估算中的权重部分，是参数量乘以每个参数占的字节数：16 位为 2，8 位为 1，4 位为半个字节。再加上 KV 缓存和一些余量。完整微调约按每个参数 16 字节再加激活值来算，而 LoRA 算冻结的权重、适配器和优化器状态。混合专家模型按它全部的参数来估算。对于 GGUF，估算使用你所选版本文件的大小。实际上这类版本每个参数占的位数会超过四位。服务成本是根据显存带宽建模的，请把它当作下限。

选一个模型或输入大小
从 Hub 读取元数据
按你的任务估算显存
匹配实时 GPU 价格
建模每 1M token 的成本

注意事项：

• 覆盖范围：内置列表收录 14,192 个下载量较高的公开模型。列表跳过小到不用租 GPU 的模型，以及面向 Apple 芯片、CPU 或手机的版本。
• 限制：每 1M token 的成本是模型估算，不是实测。
• License：mit。
• Cost to run：未提及。页面不需要登录，使用一个免费的匹配 API。
• Data it reaches：Hub 上每个模型的元数据，比如参数量和量化配置，以及用于估算和实时价格的 FastGPU 匹配 API。

Hugging Face 上的数据（2026年11月13日）

• 点赞：39
• 构建方式：static
• 许可证：mit

链接

• Space：https://huggingface.co/spaces/fastgpu/vram-and-gpu-cost-calculator
• 文件：https://huggingface.co/spaces/fastgpu/vram-and-gpu-cost-calculator/tree/main

试用

在浏览器里打开这个 Space，或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。