开发者 AI 技能与智能体

gemma-4-26B-A4B-it Cactus CQ

Cactus-Compute · 工具包

Google gemma-4-26B-A4B-it 聊天模型的 2 位、3 位和 4 位压缩副本，使用 Cactus 权重格式。专为通过 Cactus 运行时在 ARM 设备上运行而做。

gemma-3-27b-it-GGUF

unsloth · 工具包

用 Google 的 Gemma 3 27B 指令微调模型回答关于文本和图像的问题，提供 Unsloth 制作的 GGUF 文件，可在你自己的电脑上运行。支持 128K 词元上下文。

gemma-3-270m-it-GGUF

unsloth · 工具包

作为 268M 的指令微调 Gemma 3 模型，以 GGUF 格式根据提示词生成文本，小到可以在笔记本和台式机上运行。适合想要一个微型本地模型来运行或微调的开发者。

gemma-3-12b-it-GGUF

unsloth · 工具包

用 Google Gemma 3 12B 指令模型的 GGUF 文件回答问题、总结文本并读图，适合想在自己电脑上运行它的人。

System One Model

stephenlb · 工具包

基于 Gemma 4 12B 加一个小型决策头，针对一段文字回答是非题、选择题和评分题，并给出每个答案的概率。适合给应用加入快速分类的开发者。

gemma-4-31B-it-scotoma-2

ReadyArt · 工具包

ReadyArt 的 31.3B 参数文本生成模型，基于 Google 的 gemma-4-31b-it，以 Safetensors 存放。页面没有说明用途，适合想研究 Gemma 4 变体的人。

Gemma 4 12B IT (LiteRT-LM)

litert-community · 工具包

在你自己的桌面上运行 Gemma 4 12B，支持文本、图像和音频输入，不需要联网。这是 LiteRT-LM 版本，适合想在 Windows、macOS 或 Linux 上私密地本地生成的开发者。

gemma-4-31B-it-qat-q4_0-gguf

google · 工具包

把 Google 的 Gemma 4 31B 指令微调模型做成 4-bit GGUF 文件来运行，能读取文字和图片并用文字回答。适合有消费级显卡或工作站的开发者和爱好者。

embeddinggemma-2 GGUF

ggml-org · 工具包

用 llama 命令或 Llama 应用运行 Google embeddinggemma-2 的 GGUF 副本，这是一个 271M 的特征提取模型。适合想在本地使用小型文本嵌入模型的开发者。

gemma-4-31b-it-exl3-optimized

Dino0040 · 工具包

提供为 Gemma 4 31B-it 构建任意码率的优化 EXL3 量化版本所需的测量数据和配方。适合用 exllamav3 做量化，并想跳过耗时测量步骤的人。

google_gemma-4-31B-it-GGUF

bartowski · 工具包

Google Gemma 4 31B 指令模型的量化 GGUF 文件，大小从 17.15 GB 到 61.41 GB，由 bartowski 用重要性矩阵制作。可读取图像和文字。可在 llama.cpp、LM Studio 等工具里运行。

G4-MeroMero-v2-31B

zerofata · 工具包

zerofata 基于 Gemma 4 31B 指令模型做的 31.3B 模型，适合想试用这个调优版本或和原模型对比的人。模型卡文字对用途说得很少。

Smaug-Decisions

abacusai · 工具包

针对音频、图像或文本的提问，一次前向传播就给出每个选项的概率，不生成文字。这是从 Gemma 4 E4B-it 微调而来的 4B 决策模型。

VieGem-ASR

5CD-AI · 工具包

转写越南语以及越南语和英语混合的语音，可离线处理，也可按 0.48 秒的块流式处理，使用基于 Google EmbeddingGemma 2 音频编码器的 359M 参数模型。仅限非商业使用。

gemma-4-31B-it-qat-GGUF

unsloth · 工具包

用 Unsloth 的 4 比特 QAT GGUF 文件运行 Google 的 Gemma 4 31B 指令模型，自带用于推测解码的草稿模型，可在 llama.cpp 中加速。适合在本地部署大型多模态模型的人。

Gemma 4 E4B IT (LiteRT-LM)

litert-community · 工具包

在手机、桌面、IoT 开发板和网页上运行小型 Gemma 4 模型，不需要联网。这是 3.66 GB 的 LiteRT-LM 版本，适合想要私密的设备端生成的开发者。

gemma-4-E4B-it-weight-space-programming

jstarks · 工具包

对 Google 的 Gemma 4 E4B-it 直接修改 0.002% 的权重、不做训练，用来解决思考模式下工具调用和多步数学的卡顿。也提供一个小型补丁文件。

gemma-4-E4B-it-GGUF

ggml-org · 工具包

Google gemma-4-E4B-it 的 GGUF 格式副本，可以用 Llama 应用或 llama serve 命令在你自己的电脑上运行，适合想在本地运行 Gemma 的人。

gemma-4-12B-it GGUF

ggml-org · 工具包

通过 Llama 应用或 llama 命令，在你自己的电脑上运行 Google 的 gemma-4-12B-it，文件是 ggml-org 自动转换的 GGUF。适合在本地运行模型的人。

MedErtas v0.1 31B LS

ErtasAI · 工具包

在 vLLM 和 NVIDIA Blackwell GPU 上运行面向医疗领域的语言模型，它是压缩后的 Gemma 4 31B。适合需要在考题、编码和答案核查任务上又快又省的医疗 AI 产品。