gpt-oss-120b-GGUF
unsloth · 工具包
用 Unsloth 制作的 GGUF 文件运行 OpenAI 的开放权重模型 gpt-oss-120b,它有 117B 参数,其中 5.1B 处于激活状态,文件带有 Unsloth 的修复。面向推理、智能体任务和开发者使用。
unsloth · 工具包
用 Unsloth 制作的 GGUF 文件运行 OpenAI 的开放权重模型 gpt-oss-120b,它有 117B 参数,其中 5.1B 处于激活状态,文件带有 Unsloth 的修复。面向推理、智能体任务和开发者使用。
local-inference-lab · 工具包
为四卡 GPU 服务准备的 DeepSeek V4.1 Flash 1017 签名 Flare 运行时包,支持文本和图片,提供兼容 OpenAI 的 API。适合在自有 NVIDIA 硬件上运行大模型的人。
amd · 工具包
把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本,通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。
openai · 工具包
按你写的安全策略对文本分类,并展示推理过程。适合信任与安全团队过滤模型输入输出,以及在线或离线给内容打标签。
openai · 工具包
根据你写的安全政策给文本分类,并展示每个决定背后的推理。适合过滤或标注内容的信任与安全团队。
deep-principle · 工具包
Deep Principle 的 384B 科学助手 Hydrogen-1.0 的 MXFP4 量化版本,面向 AMD Instinct 硬件。适合想用文本模型处理科学问题和研究规划的实验室。
flechin · 工具包
一个 27B 推理模型,经过微调后倾向于直接回答而不是含糊其辞,并量化为 MXFP4,让 vLLM 能在单块 32 GB GPU 上提供服务,适合运行本地推理和工具调用模型的开发者。
openai · 工具包
OpenAI 的开放权重语言模型,117B 参数,可调推理强度,思维链可见并支持工具使用。能在一块 80 GB 的 GPU 上运行,采用 Apache 2.0 许可。
openai · 工具包
根据文字提示词写作、推理并调用工具,是 OpenAI 的 21B 开放权重模型,可在 16 GB 内存内运行。适合想要本地或专用模型的开发者。