gemma-4-31B-it-scotoma-2-GGUF

gemma-4-31B-it-scotoma-2-GGUF

这个模型是 ReadyArt 从自家 gemma-4-31B-it-scotoma-2 打包出来的 GGUF 版本，参数量 30.7B，可在本地运行。适合想以 GGUF 形式使用这个模型的人。

由 ReadyArt 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：gemma-4-31B-it-scotoma-2-GGUF 是 ReadyArt 的 gemma-4-31B-it-scotoma-2 文本生成模型的 GGUF 版本，该模型约有 307 亿参数。GGUF 文件可以在本地运行时里加载。这里能看到的模型卡部分只有页面样式，没有描述，所以模型针对什么做过调整并没有说明。

适合谁：适合已经了解原版 scotoma-2 模型、想要 GGUF 形式在本地使用的人，许可证为 Apache 2.0。

Industry | Who uses it | How they use it | Example
软件 | 开发者 | 在本地 GGUF 运行时上运行 31B 级的文本模型 | 用自己应用里的提示词测试它
研究 | 机器学习研究人员 | 把它和其他基于 Gemma 的版本作比较 | 在两个模型上运行同样的提示词
兴趣使用 | 本地模型用户 | 离线和大模型聊天 | 下载文件后试一试
工具 | 工具开发者 | 检查 GGUF 版本在自己应用里的表现 | 在本地测试环境里加载它

如果你需要有说明的用途、基准测试或示例输出，可以跳过它，因为这里的模型卡文字没有给出这些。

用在哪里：只要能加载 GGUF 文件的地方都能用。

• 能读取 GGUF 模型的本地运行时
• Windows、macOS 或 Linux，下载时需要 Python
• 内存足够放下这个规模模型的机器

Use case | Who | What they get back
本地文本生成 | 开发者 | 针对你发送的提示词的文字回复
模型比较 | 研究人员 | 可以和原版模型对比的输出

如何设置：你需要 Python，以及大量空闲的磁盘和内存。

• 带 pip 的 Python
• 压缩到 4-bit 时约需 15.3 GB 空间
• 能加载 GGUF 文件的运行时

1. 用 pip 安装 Hugging Face hub 工具。
2. 用 hf 命令下载模型文件。
3. 从下载内容里选一个 GGUF 文件。
4. 在你的 GGUF 运行时里加载这个文件。

pip install -U huggingface_hub
hf download ReadyArt/gemma-4-31B-it-scotoma-2-GGUF

如何使用：在运行时里加载 GGUF 文件，像用任何对话模型一样发送提示词。这里给出的模型卡文字没有提示词格式或设置，请到仓库文件里查看聊天模板和量化类型列表。

Tool | What it does
hf download | 下载仓库，包括里面的 GGUF 文件
GGUF runtime | 加载其中一个文件并生成文字

示例：你下载文件，在本地 GGUF 运行时里加载一个，发送一个简短的问题。模型回复生成的文字，质量好不好由你按自己的用途判断。

新手与专家：如果你刚接触 GGUF，它是本地运行时能读取的一种文件格式。先下载，再加载一个文件，问一个简短的问题，确认它能用。

如果你熟悉这个领域：这个仓库是模型卡里提到的那个 ReadyArt 模型的量化版本，记录里的大小是 30.7B 参数。这里的模型卡文字没有列出量化类型、训练方法或任何评测。

用 hf 下载文件
选一个 GGUF 文件
在本地运行时里加载
发送提示词
读取生成的文字

注意事项：能看到的模型卡主要是样式规则，所以在依赖这个模型之前，请先到仓库页面看真正的说明。

• License: Apache 2.0
• Cost to run: 未提及，只需要你自己的硬件
• Data it reaches: 你电脑上的模型文件，模型卡没有提到其他内容
• Not for: 模型卡没有描述的任何用途，因为它没有给出目的或限制

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：30.7B
• Weights: about 15.3 GB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：8,414
• 点赞：43
• 许可证：apache-2.0
• 基于：ReadyArt/gemma-4-31B-it-scotoma-2
• 标签：transformers, gguf, text-generation, imatrix, conversational

链接

• 模型：https://huggingface.co/ReadyArt/gemma-4-31B-it-scotoma-2-GGUF
• 文件：https://huggingface.co/ReadyArt/gemma-4-31B-it-scotoma-2-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download ReadyArt/gemma-4-31B-it-scotoma-2-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。