来自 Hugging Face 的 AI 项目

Qwen3.8-27B-GSQ-RCO-GGUF

ISTA-DASLab · 工具包

ISTA-DASLab 制作的 Qwen3.8-27B GGUF 版本，共四种大小，每个张量用各自的精度量化，并带有处理图片的视觉投影文件。适合在 llama.cpp、Ollama 或 LM Studio 里本地运行模型的人。

VideoLLaMA2

lixin4ever · 工具包

一个基于 VideoLLaMA2 模型、用来理解视频等媒体内容的聊天应用。在浏览器里以 Gradio 应用在 ZeroGPU 上运行，适合想就视频片段提问的人。

SADIK AI

SadikNawazAI · 工具包

一个多语言聊天助手，通过 WebAssembly 完全在你的浏览器里运行，所以你的消息留在你的设备上。也可以通过 Ollama 和本地 API 使用。

LLM VRAM Calculator

donaldJJ · 工具包

估算 Hugging Face 模型在任意量化和上下文长度下需要多少显存，拆成权重、KV 缓存和额外开销，并显示哪些 GPU 容量够用。适合计划在本地运行大模型的人。