浏览 AI 技能、智能体和自动化

gemma-4-31b-it-exl3-optimized

Dino0040 · 工具包

提供为 Gemma 4 31B-it 构建任意码率的优化 EXL3 量化版本所需的测量数据和配方。适合用 exllamav3 做量化，并想跳过耗时测量步骤的人。

DeepSeek-V4.1-Flash-1017-exl3

turboderp · 工具包

在 ExLlamaV3 里以每权重 1.68、2.25 或 2.68 比特运行压缩后的 DeepSeek-V4.1-Flash-1017。适合在自己的硬件上运行大模型、想少占内存的人。

Qwen3.8-27B-exl3

turboderp · 工具包

Qwen3.8-27B 的 EXL3 量化版本，提供从 1.40 到 6.00 的多种每权重比特数。适合在显存有限的 GPU 上用 ExLlamaV3 本地运行 27B 模型的人。

DeepSeek-V4.1-Flash-1017 EXL3 EAQ v1 2.9 bpw

Mia-AiLab · 工具包

DeepSeek-V4.1-Flash-1017 的 2.9 bits-per-weight EXL3 量化版本，能读取文本和图片。它把模型压缩到约 210 GB，供 exllamav3 运行时使用，模型卡还测量了它与原模型的贴近程度。