gemma-4-12B-it-qat-GGUF
unsloth · 工具包
Gemma 4 12B 的 GGUF 版本,经过量化感知训练,4-bit 副本也能保持接近 bfloat16 的质量。适合用 llama.cpp 在本地运行 Gemma 的人,附带加快输出的草稿文件。
unsloth · 工具包
Gemma 4 12B 的 GGUF 版本,经过量化感知训练,4-bit 副本也能保持接近 bfloat16 的质量。适合用 llama.cpp 在本地运行 Gemma 的人,附带加快输出的草稿文件。
unsloth · 工具包
通过 Unsloth 的 GGUF 文件在本地运行 Google 的 Gemma 4 31B 指令微调模型,支持文本和图像输入,上下文很长。适合想要强大本地推理和编程模型的开发者。
yuxinlu1 · 工具包
Google Gemma 4 12B 指令模型的 GGUF 微调版本,面向编程和使用工具的智能体工作,只需约 4.5 GB 空闲内存就能离线运行。
jialinyyzz · 工具包
把 AI 写的草稿,如邮件、文章、报告和论坛帖子,改写得像真人写的,支持英文和中文。一个 12B 模型,保留数字和名字,可在本地运行。
google · 工具包
接收文字、图像和音频输入并输出文字,上下文 128K token,支持 140 多种语言。这是 Google DeepMind 的小型指令微调 Gemma 4 模型,为在笔记本和手机上运行而设计。
google · 工具包
接收文字、图像和音频输入并输出文字,上下文 128K token,支持 140 多种语言。这是 Google DeepMind 最小的指令微调 Gemma 4 模型,为手机和笔记本而设计。
google · 工具包
Google DeepMind 的 Gemma 4 系列中的 E4B 模型,一个能读文字、图片和音频并输出文字的开放模型,面向笔记本和手机运行而设计。
google · 工具包
Google 发布的经指令微调的 Gemma 4 模型,读取文字和图像并输出文字,支持可配置的思考、函数调用,上下文窗口最长 256K 词元。适合开发者和研究者。
google · 工具包
Google DeepMind 推出的 31B 指令微调模型,能读文字和图片并输出文字,上下文 256K,可配置思考模式,适合在工作站或服务器上运行开放模型的开发者。