DeepSeek-V4.1-Flash-EXL3-3bpw-2x-RTX-PRO-6000
diffbot · 工具包
在两张 96 GB 的 RTX PRO 6000 Blackwell 显卡上用 vLLM 运行 DeepSeek-V4.1-Flash-1017 的 3 位压缩版,适合在自己硬件上部署大型编程和智能体模型的开发者。
写代码、审代码用的提示词、编程智能体任务说明和工具包,花更少的 Token。
diffbot · 工具包
在两张 96 GB 的 RTX PRO 6000 Blackwell 显卡上用 vLLM 运行 DeepSeek-V4.1-Flash-1017 的 3 位压缩版,适合在自己硬件上部署大型编程和智能体模型的开发者。
XHToken · 工具包
以 4-bit GGUF 文件运行 XHToken 的 1.7B 小型端侧语言模型,可做中英文的聊天、编码和智能体任务,思考强度可调。适合在本地运行模型的人。
prithivMLmods · 工具包
ccore 的 Qwen3.5-4B-3D-Coder 的重新打包版本,一个为编程回答和 Three.js 3D 场景调优的小模型,附带支持多词元预测的 GGUF 文件。
lapadatbogdan · 工具包
在家用电脑上运行裁剪过的 GLM-5.3-Flash 编程和智能体模型,提供五种量化大小的 GGUF 文件。每层保留 288 个专家中的 152 个,把 321B 模型缩小到约 170B。
unsloth · 工具包
通过 Unsloth 的 GGUF 文件在本地运行 Google 的 Gemma 4 31B 指令微调模型,支持文本和图像输入,上下文很长。适合想要强大本地推理和编程模型的开发者。
sabicap · 工具包
基于 Qwen3.8-27B、用开源强化学习环境训练的 27B 智能体文本模型,报告了更高的终端和编程智能体得分,适合构建编程和调用工具智能体的开发者。
yuxinlu1 · 工具包
Google Gemma 4 12B 指令模型的 GGUF 微调版本,面向编程和使用工具的智能体工作,只需约 4.5 GB 空闲内存就能离线运行。
thinkingmachines · 工具包
读取文字、图片和音频并写出文字,是一个庞大的开放多模态模型,适合编码助手、智能体和聊天机器人。适合有多 GPU 服务器或托管 API 的开发者。
unsloth · 工具包
在你自己的硬件上运行 Unsloth 的 GLM-5.3-Flash 文本模型 GGUF 版本,作者把这个大型开源模型定位于编码和智能体工作。适合内存充足的人。
DeepHat · 工具包
面向网络安全和 DevOps 工作的 7B 编程模型,由 Qwen2.5-Coder-7B 微调而来。适合想要本地小模型的安全和运维工程师,须遵守附加的使用限制。
Apexintelligence-AI · 工具包
用于编程、工具使用、问答、搜索和研究任务的文本模型,基于 Qwen3.6-35B-A3B,每个词元约用 3B 参数。适合开发者和研究者。
unsloth · 工具包
通过 Unsloth 的 GGUF 文件在本地运行 Qwen3.6-35B-A3B,带多词元预测,让 llama.cpp 解码更快。适合想要本地智能体编程模型的开发者。
unsloth · 工具包
用 Unsloth 的 GGUF 文件运行 Flint,这是面向编程智能体的 39.8B 混合专家模型,每个词元只用约 2.5B 参数。适合在本地运行编程智能体的开发者。
reflection · 工具包
Reflection 推出的开放指令微调文本模型,501B 参数,每次激活 23B,上下文 1M token,面向编程、工具使用和推理。需要大型多 GPU 服务器才能运行。
Jackrong · 工具包
作为 Qwen3.8-27B 的 GGUF 微调版,帮你写代码并胜任会调用工具的智能体任务,用约 20 万条代码、智能体和推理样例训练。适合在自己电脑上运行模型的开发者。
XiaomiMiMo · 工具包
在一个 1.02T 参数、1M 词元上下文的模型里同时处理文字、图像、视频和音频。它是小米 MiMo-V2.6 系列的旗舰,用大规模强化学习训练,面向编程和智能体工作。
Qwen · 工具包
在你自己的电脑上运行 Qwen 的 7B 指令微调编程模型,打包成 GGUF 文件,有八种量化等级。适合想通过 llama.cpp 获得代码帮助的开发者。
openbmb · 工具包
用面向设备端和本地使用的稠密 2B 级模型生成文本,涵盖英文和中文的编程、数学、长上下文、工具使用和智能体任务。适合硬件有限的开发者。
openai · 工具包
OpenAI 的更快的 Whisper 模型,用于语音识别和语音翻译,有 809M 参数,解码层只有 4 层。适合开发者和需要转写音频的人。
XiaomiMiMo · 工具包
Xiaomi MiMo 的 9B 智能体模型,由 Qwen3.5-9B 微调而来,覆盖编程、智能体任务、视觉编程和网络安全,作为研究的起点发布。
XHToken · 工具包
面向设备端使用的紧凑 4B 语言模型的 GGUF 版本,针对编程、智能体和长上下文调校,有从无到高的三档思考级别。支持英文和中文。
ornith-ai · 工具包
运行一个面向编程和智能体任务的 35B 混合专家文本模型,每个词元只用约 3B 参数。这个仓库提供它的 GGUF 文件,供本地使用。
thinkingmachines · 工具包
读取文字、图像和音频并用文字回答,面向开发助手、编程工具和智能体的开发者。这是稀疏混合专家模型,总参数 276B,每个词元激活 12B。
peculiar-ragdoll · 工具包
在 6 GB 显存的显卡上运行支持长上下文的 4B 编程模型。这些 Spark-X2.6-4B 的 GGUF 量化版有三种大小,使用偏向编程的重要性矩阵。
AtomicChat · 工具包
65B 智能体编程模型 Ripple Preview 的 GGUF 量化文件,用 llama.cpp 在本地运行,适合在自己硬件上运行大型开源模型的人。
169Pi · 工具包
用一个基于 Qwen3.5-9B 的 9B 开放权重模型处理文字、图片和视频,做推理和编程,并提供适合轻量硬件的 GGUF 版本。适合想要能离线运行的模型的开发者。
Qwen · 工具包
用一个 35B 的混合专家模型处理编程、仓库级推理和图文输入,它激活 3B 个参数。适合在 transformers、vLLM 或 SGLang 里运行开放权重的开发者。
byteshape · 工具包
用 ByteShape 的 ShapeLearn 量化出的 Qwen3.8-27B GGUF 文件,提供五种适合不同显卡的版本,在 llama.cpp 里支持图片输入和 MTP 推测解码。适合在自己的显卡上运行它的人。
XHToken · 工具包
一个 4.1B 的语言模型,擅长编程、智能体任务和长上下文,支持英文和中文,有三档思考强度,适合构建在自己设备上运行的智能体的开发者。
ornith-ai · 工具包
提供 Ornith-1.5-9B 的 GGUF 文件,这是一个通过自我改进循环训练的 9B 稠密模型,适合单显卡使用。适合想要公开编程成绩的小模型的开发者。
Nanbeige · 工具包
一个 33.1B 的开放模型,面向智能体编程和专业协作任务,是 Nanbeige4.3 系列的旗舰教师模型,适合想要约 30B 参数强力开放模型的开发者和智能体开发者。
ISTA-DASLab · 工具包
Qwen3.8-Flash-Next 的偏编程 GGUF 版本,去掉了一半专家,把 BF16 的 354 GB 缩到 58.4 GB,同时保留图片输入,适合有大机器、想在本地用编程模型的人。
RecursiveSI · 工具包
为编程智能体打造的 39.8B 混合专家语言模型,能调查代码库、修复 bug、实现功能并编写测试,适合在 GPU 服务器上运行自己智能体的开发者。
aj9o9 · 工具包
一个 GGUF 草稿模型,通过推测解码在 llama.cpp 里加速 Qwen3.8-27B,在一块 RTX 3090 上处理代码和数学时约每秒 125 个 token,适合在本地运行 Qwen3.8-27B 的人。
BAAI · 工具包
用 BAAI 的 27B 模型,通过多轮提出、测量、反思和修改来改进自己的解答,适合做编程、机器学习和深度研究任务的智能体研究者和开发者。
nex-agi · 工具包
作为多模态智能体模型处理计算机操作、编程和长时间的工具任务,基于 GLM-5.3-Flash,FP8 权重约 321B 参数。适合能自行托管大模型的团队。
baidu · 工具包
百度的 3.3B 文档解析模型,面向长文档,用 SR-SWA 注意力让解码成本几乎保持不变,提供 Transformers 和 SGLang 两条使用路线。适合要把长报告和书籍数字化的团队。
meituan-longcat · 工具包
美团 LongCat 的多模态混合专家模型,面向长时间的智能体任务和编程,总参数约 1.6 万亿,每个 token 激活 480 亿。适合有大型 GPU 集群的实验室和团队。
bstraehle · 工具包
一个用 Microsoft AutoGen 做的 Gradio 演示,让多个 AI 智能体一起完成编程任务。可以在 Hugging Face 的浏览器里用,也可以在自己的电脑上跑一份。
ReallyFloppyPenguin · 工具包
把一段文字描述变成可交互的 3D 世界,以一个使用 Three.js 的 HTML 文件交付。一个小型代码模型通过 WebGPU 在你的浏览器里运行。
prajwalpujari16 · 工具包
一个浏览器工具,在你租用或购买硬件之前,估算 LLM 需要的 GPU 显存,比较 GPU,估算投机解码的延迟,并估算每百万 token 的云成本。
pollix · 工具包
一个浏览器演示,用两种方式回答问题:基础 Laya 模型零样本回答,以及 stuntd 为每个决策训练的小型头,涵盖客服分流、银行业务和编程智能体命令闸门。
abedbanna · 工具包
录制或接收阿拉伯语语音,把 Sygma 的解码和基础模型的贪心输出做对比,并给出词错误率的测试台。适合语音研究者和开发者。
ongudidan · 工具包
一个由 DeepSeek AI 驱动的编程平台,根据你的要求生成应用。适合想把生成式 AI 用进编码工作的开发者、数据科学家和 AI 工程师。
deepseek-ai · 工具包
面向推理、编程和智能体任务的图文模型,上下文窗口为 1M 个 token,由 DeepSeek-V4.1-Flash 更新而来。适合构建智能体的开发者。
Qwen · 工具包
能读懂文字、图片和视频并用文字回复的 27B 开源模型,面向编程、研究和多步骤智能体任务,适合自己部署模型的开发者。
ricursiveAI · 工具包
用 650 亿参数的稠密语言模型驱动终端编程智能体,上下文最长 1,048,576 个 token。适合想要 Apache 2.0 开放权重的开发者和研究者。
aicodeking · 技能
帮助 DeepSeek V4.1 Flash 和 V4 Pro 先做计划、检查自己的工作并在设定的点停下,让较便宜的模型表现得更像昂贵的模型。适合使用能读取 SKILL.md 文件的编程智能体的开发者。
microsoft · 技能
微软为在 Azure 和 Microsoft Foundry 上工作的编程智能体整理的技能库,附带智能体角色和 MCP 配置:五种语言里每个 SDK 一个技能,另有部署、成本和 AKS 技能。只装几个,不要全装。
cloudflare · 技能
Cloudflare 官方的 22 个技能,给在 Cloudflare 上开发的编程智能体用:Workers、Durable Objects、Agents SDK、cf 和 Wrangler 工具、Turnstile 以及 Cloudflare One。它们让智能体去读当前的文档,而不是凭记忆回答。