gemma-4-31B-it-GGUF
unsloth · 工具包
通过 Unsloth 的 GGUF 文件在本地运行 Google 的 Gemma 4 31B 指令微调模型,支持文本和图像输入,上下文很长。适合想要强大本地推理和编程模型的开发者。
写代码、审代码用的提示词、编程智能体任务说明和工具包,花更少的 Token。
unsloth · 工具包
通过 Unsloth 的 GGUF 文件在本地运行 Google 的 Gemma 4 31B 指令微调模型,支持文本和图像输入,上下文很长。适合想要强大本地推理和编程模型的开发者。
Ultralytics · 工具包
用 Ultralytics 的 YOLO 模型系列在图片和视频中找出物体,同系列还覆盖分割、分类、深度、姿态和跟踪。适合开发计算机视觉应用的开发者。
TimeLordRaps · 工具包
SperiD Labs 的 Idol 的 8-bit GGUF 版本,把一张图像变成 3D 高斯点云和网格,用 idol.cpp 在本地运行。适合做图像转 3D 的开发者。
sabicap · 工具包
基于 Qwen3.8-27B、用开源强化学习环境训练的 27B 智能体文本模型,报告了更高的终端和编程智能体得分,适合构建编程和调用工具智能体的开发者。
Qwen · 工具包
把文本变成向量,用于搜索、代码检索、分类和聚类,支持 100 多种语言。这是 Qwen 嵌入系列里的 8B 模型,向量大小可调,还支持任务指令。
Qwen · 工具包
在 llama.cpp 或 Ollama 中运行量化后的 Qwen3-8B GGUF 文件,有用于数学、代码和逻辑的思考模式,也有用于聊天的普通模式。适合想要本地模型并能选择文件大小的人。
Qwen · 工具包
根据文字指令编辑现有图片,修改物体、风格或图片里的中英文文字,适合使用 diffusers 库的设计师和开发者。
peonist-ai · 工具包
存放 halogen-flash-server 所用的模型权重,这个引擎能在 AMD Strix Halo 机器上运行 Qwen3.8-Flash-Next,适合想在本机运行该模型的这类硬件的主人。
peasantsmith · 工具包
GLM-5.3-Flash 的五个 GGUF 压缩版本,GLM-5.3-Flash 是 321B 的混合专家模型,大小从 73.4 GB 到 156.3 GB,为 Project Maya 制作,它把模型分摊到 GPU、内存和固态硬盘上。
openjev · 工具包
针对文本、网页和截图回答带类型的决策,一次前向计算,根据你自己的标签给出选项、是非概率或分数。适合构建分流、审核和浏览器智能体的团队。
nvidia · 工具包
找出录音里谁在什么时候说话,最多支持八位说话人,可流式或离线运行,还能为转写文本加上说话人标签。适合处理会议、通话和媒体音频的人。
litert-community · 工具包
打包成 .litertlm 文件的 Gemma 4 E2B 指令微调模型,用于 LiteRT-LM 框架,适合在手机、桌面和边缘设备上私密地本地运行。
kkt94 · 工具包
用一个 9.2B 的模型回答关于视频片段的问题,它把冻结的 V-JEPA 2.1 视频编码器接到 Qwen3-8B 上,适合有 24 GB 以上 GPU 的人。
hindsight-ai · 工具包
针对文本状态上的有类型问题,一次给出每个选项的概率,不生成文字,支持八种语言。这是 Hindsight 工具用的 0.8B 决策模型,可用 vLLM 或 Transformers 提供服务。
feder-cr · 工具包
一个本地决策模型,在笔记本 CPU 上约 28 到 130 毫秒就能回答关于文本的是非、选择和打分问题,为每个答案返回概率。适合想要免费本地方案、替代云端决策 API 的开发者。
empero-ai · 工具包
Empero 的 Qwen3.8-9B 的 GGUF 量化版本,一个由更大的 Qwen3.8 蒸馏到 Qwen3.5-9B 架构里的推理模型,适用于 llama.cpp、Ollama、LM Studio 等工具。
Comfy-Org · 工具包
Comfy-Org 打包的 Z-Image-Turbo 文生图模型的 ComfyUI 即用文件,附带文生图、放大和 ControlNet 工作流。基于 Tongyi-MAI 的原版。
Comfy-Org · 工具包
Comfy-Org 重新打包的微软 TRELLIS.2-4B 模型文件,供 ComfyUI 使用,用于图片转模型工作流,适合从图片构建 3D 资产的人。
AtomicChat · 工具包
把 ZONOS3-Mini 文本转语音模型打包成适用于 llama.cpp 的 GGUF 文件,内置 27 种声音,有从 0.41 到 1.61 GB 的六种主干大小。适合在本地运行语音的开发者。
yuxinlu1 · 工具包
Google Gemma 4 12B 指令模型的 GGUF 微调版本,面向编程和使用工具的智能体工作,只需约 4.5 GB 空闲内存就能离线运行。
thinkingmachines · 工具包
读取文字、图片和音频并写出文字,是一个庞大的开放多模态模型,适合编码助手、智能体和聊天机器人。适合有多 GPU 服务器或托管 API 的开发者。
Qwen · 工具包
Qwen 的 8.2B 开放语言模型,可在处理难题的思考模式和日常聊天的普通模式之间切换,支持工具调用和 100 多种语言。
perplexity-ai · 工具包
一次读入一个情境和多个问题,再逐个给出选择、是否或分数。适合需要分派、标记或评估请求的团队。
nvidia · 工具包
NVIDIA 把阿里巴巴 Qwen3.8-27B 压缩成 4 位 NVFP4 的版本,用 Model Optimizer 制作,面向 Blackwell GPU,输入文字、图片和视频,输出文字。
nvidia · 工具包
转写 25 种欧洲语言的语音,自动识别语言,并加上标点、大小写和词级时间戳。这是 NVIDIA 的 600M 参数语音转文字模型,面向开发者和转写服务。
nvidia · 工具包
根据作为上下文给出的带标签示例行,预测新表格行的类别或数值。这是 NVIDIA 的预训练表格基础模型,用于分类和回归,适合开发者和数据团队。
moondream · 工具包
moondream 推出的 178 MB 语音识别模型,在八个 x86 CPU 核心上以 113 倍实时速度运行。它能转写英语、德语、法语、西班牙语、意大利语、葡萄牙语、俄语和乌克兰语。
KRAFTON · 工具包
能聊天和推理,尤其擅长韩语,并可执行调用工具的智能体任务。这是一个 28.8B 的混合专家模型,每个词元激活 4.3B 参数,上下文 262,144 个词元。KRAFTON AI 的预览版本。
KaraKaraWitch · 工具包
一次为动漫风格插画打上多达 98,782 个 Danbooru 标签,涵盖画师、角色、版权、通用特征、年份和分级。适合整理或检索图片集合的人。
jesdga · 工具包
把 DeepSeek V4.1 Flash 打包成单个模型文件供 Basalt 引擎使用,它在一张 NVIDIA Blackwell GPU 上运行,放不下的专家由系统内存承担。支持图片,上下文最长 1,048,576 个词元。
hazyresearch · 工具包
Hazy Research 为 Next-Concept Modeling 发布的研究检查点,这是一种由粗到细的文本生成方法,含用于摘要、翻译、数独和语言建模的分词器与生成器配对。
gradium · 工具包
为 Phonon S 文字转语音模型提供 102 个现成的声音,涵盖英语、法语、德语、西班牙语和葡萄牙语,每个都是可直接加载的小型嵌入文件,不需要克隆。
ggerganov · 工具包
OpenAI 的 Whisper 语音识别模型,转换成 ggml 文件供 whisper.cpp 使用,从 tiny 到 large-v3-turbo 多种尺寸,另有更小的量化版本。
empero-ai · 工具包
用十种尺寸的 GGUF 文件运行一个 35B 混合专家模型,每个 token 约 3B 参数在工作,另附视觉投影文件。适合 llama.cpp、Ollama、LM Studio、Jan 和 KoboldCpp 用户。
decisionmodels · 工具包
让两个模型在同一张 GPU 上并行运行并取平均,为决策请求的各个选项返回概率。适合想要通过兼容 Jev 的接口使用开放决策模型的团队。
baselabs · 工具包
一次性回答关于某个情境的一组问题,并为每个选项给出校准过的概率。这是 Baseten 的 Base Labs 发布的 9B 决策模型,由 Qwen3.5-9B 调整而来。
unsloth · 工具包
Unsloth 制作的 Qwen3.5-4B GGUF 量化版本,一个能读图片和文字并用文字回答的小模型,适合在本地运行模型的人。
unsloth · 工具包
在你自己的硬件上运行 Unsloth 的 GLM-5.3-Flash 文本模型 GGUF 版本,作者把这个大型开源模型定位于编码和智能体工作。适合内存充足的人。
Qwen · 工具包
最小的 Qwen3 对话模型,基于 Qwen3-0.6B-Base 构建。它能在思考模式和更快的普通模式之间切换,支持 100 多种语言和 32,768 token 的上下文,在普通硬件上也能运行。
openai-community · 工具包
用最小的 GPT-2 模型根据提示词生成英文文本,它经过预训练,学习预测下一个词。适合想运行或微调小型基础模型的学习者、研究人员和开发者。
microsoft · 工具包
微软的 4B 图片转 3D 模型,把一张图片变成带 PBR 材质的有纹理 3D 网格,分辨率最高到 1536,适合有大显存 NVIDIA GPU 的人。
lightonai · 工具包
读取文档页面图片,返回 markdown 文本,或带边界框的标注块、图片描述和图表数据。适合构建 OCR 和文档理解流程的开发者。
lightonai · 工具包
LightOn 的 0.8B 小型 OCR 模型,把页面图片读成 markdown,在 grounding 模式下还会给每个区块标上边界框。是 LightOnOCR-3 系列中快速、轻量的尺寸。
KRAFTON · 工具包
把 Raon-1 nano 打包成 4-bit 的 LiteRT-LM 包,上下文 4,096 个 token,用于在设备上运行韩英双语聊天模型。回复不带思考步骤。
google · 工具包
接收文字、图像和音频输入并输出文字,上下文 128K token,支持 140 多种语言。这是 Google DeepMind 的小型指令微调 Gemma 4 模型,为在笔记本和手机上运行而设计。
deepseek-ai · 工具包
用 684B 的推理模型生成文本,该模型主要通过强化学习训练,面向数学、代码和逻辑。适合自己托管大型开源模型的研究人员和团队。
DeepHat · 工具包
面向网络安全和 DevOps 工作的 7B 编程模型,由 Qwen2.5-Coder-7B 微调而来。适合想要本地小模型的安全和运维工程师,须遵守附加的使用限制。
Apexintelligence-AI · 工具包
用于编程、工具使用、问答、搜索和研究任务的文本模型,基于 Qwen3.6-35B-A3B,每个词元约用 3B 参数。适合开发者和研究者。
zai-org · 工具包
读取文档图像中的文字、公式和表格,并从中提取结构化信息,支持八种语言。这是 zai-org 的小型 OCR 模型,面向开发者和文档处理流水线。
unsloth · 工具包
通过 Unsloth 的 GGUF 文件在本地运行 Qwen3.6-35B-A3B,带多词元预测,让 llama.cpp 解码更快。适合想要本地智能体编程模型的开发者。