KVARK Sparkle 1.0 (27B) FP8
Egzakta · 工具包
在 vLLM 上运行 FP8 格式的 27B 图文模型。和同规模的 Qwen 模型相比,它推理时用的词元少得多。适合自己托管模型的人。
Egzakta · 工具包
在 vLLM 上运行 FP8 格式的 27B 图文模型。和同规模的 Qwen 模型相比,它推理时用的词元少得多。适合自己托管模型的人。
Egzakta · 工具包
能处理图像和文字,推理时用的思考 token 比基座 Qwen3.8-27B 更少,据模型卡称,在相近的准确率下回答时间约减半。另有 FP8 和 GGUF 版本。
Edge0 · 工具包
用 Whisper 风格的音频编码器加 Qwen 解码器,把多种语言的语音转成文字。适合需要多语言转写的开发者和研究者,卡里给出了英文和中文的结果。
ebinan92 · 工具包
从图片中读取乌克兰语手写文档,找出每个文字区域、标注类型,并以结构化 JSON 返回转写内容。这是用于手写数字化的开放 4B 视觉语言模型。
DrunkkToys · 工具包
根据一段英文说明写出 Python 函数。这是在一台笔记本上从零训练的 50M 参数代码模型,小到可以在 Ollama、LM Studio 或 llama.cpp 里离线运行。
doofz · 工具包
一次快速处理,就能回答关于工单、邮件或文档的类型化问题,给出校准的概率、提取的数字、摘录和引用。这是一个 322M 的多语言模型,用于分类和信息提取。
dmeight · 工具包
在 Apple silicon 的 LM Studio 里,通过 Splash 运行时以 8-bit 运行 Qwen3.8-27B。这是一个非官方的包,比 4-bit 版本更接近原始模型,但速度更慢。
Dino0040 · 工具包
提供为 Gemma 4 31B-it 构建任意码率的优化 EXL3 量化版本所需的测量数据和配方。适合用 exllamav3 做量化,并想跳过耗时测量步骤的人。
depth-anything · 工具包
从单张照片估计真实尺度的深度,并给出置信度图和相机估计。这是 Depth Anything 3 系列中的 334M 模型,适合做 3D 和视觉的开发者。
DedeProGames · 工具包
用一个只有 65M 参数的仅解码器小模型续写英文文本,它在 80B 个词元上训练。适合想研究、比较小型 transformers 模型或拿它测试代码的学习者和研究者。
Datawhale · 工具包
用于重建春晚武术机器人工作流的数据文件夹合集,包含 PromptHMR 所需的数据目录。适合想复现这套流程的开发者。
DataScience-UIBK · 工具包
用一个同时结合词元级匹配和整段文本匹配的模型,找出与查询最匹配的段落。这是因斯布鲁克大学发布的英语检索模型,适合构建搜索的人。
CYFRAGOVPL · 工具包
PLLuM 系列的波兰语聊天模型,按人类偏好调优,适合对话、问答和摘要,并关注波兰公共服务场景。
cstr · 工具包
用 Qwen3-ASR-1.7B 的量化 GGUF 文件,在 CrispASR 里把语音、歌声和歌曲转成文字或英文。适合想在本地转写 30 种语言和 22 种中文方言的人。
cstr · 工具包
一次性把音频转成带时间戳和说话人标签的文字稿。这是一个 0.9B 模型的 GGUF 转换版,供 CrispASR 使用,适合想在自己电脑上生成会议或访谈文字稿的人。
crucible-labs · 工具包
在 8.78 GiB 的 GGUF 文件里运行经过剪枝和量化的 Qwen3.6-35B-A3B,供 llama.cpp 使用,比第一版更接近未量化的权重。适合内存有限的人。
continuedev · 工具包
预测你在代码里接下来可能做的修改。这是 Continue 推出的 7.6B 模型,基于 Qwen2.5-Coder-7B 微调,适合想在自己电脑或服务器上运行它的开发者。
Comfy-Org · 工具包
为 ComfyUI 重新打包的 Wan 2.1 视频模型文件,涵盖文生视频、图生视频、VACE 编辑、镜头控制、透明通道视频和音频驱动配音,并附带现成的工作流。
Comfy-Org · 工具包
为 ComfyUI 重新打包的 MiniMax Music 3 模型文件,附带 Text to Music 工作流,可根据文字提示词生成音频。适合用 ComfyUI 生成音乐的用户。
CohereLabs · 工具包
Cohere 的开放权重研究模型,用于写代码、智能体软件工程和终端任务。30B 模型,3B 激活,256K 上下文。适合自己运行编程模型的开发者。
city96 · 工具包
Google T5 v1.1 XXL 文本编码器的 GGUF 转换版,用于在 llama.cpp 里生成文本嵌入,或通过 ComfyUI-GGUF 为图像生成模型提供输入。适合开发者和图像生成用户。
CIIL · 工具包
识别音频片段里说的是印度 22 种官方语言还是印度英语,并给出校准过的分数。适合构建多语言语音流水线的开发者。
chromadb · 工具包
一个 200 亿参数的搜索模型,为复杂的多步问题找出支撑文档,并在搜索中修剪自己的上下文。设计成与更大的推理模型搭配的检索助手。
chadstthomas · 工具包
一个小型离线模型,把生硬、带 AI 腔的英文邮件草稿改写成平实的文字,同时保留事实。通过 llama.cpp 在 4 到 6 GB 的设备上运行。
canberkkkkkk · 工具包
一个很小的土耳其语文字转语音模型,8.6M 参数,约 34 MB,可在 GPU 或 CPU 上离线运行,并能边生成边输出音频。适合需要土耳其语语音输出的开发者。
calcuis · 工具包
Wan 视频模型的 GGUF 量化版本,可在 ComfyUI 或 diffusers 中做文生视频,包括适合旧机器的 1.3b 小文件。适合在本地制作 AI 短视频的人。
byteshape · 工具包
Qwen3.5-9B 的 GGUF 副本,这个模型能读文字和图像,用 ByteShape 的 ShapeLearn 压缩,面向 llama.cpp。有 GPU 和 CPU 的版本,大小约从 3 GB 到 5.7 GB。
byteshape · 工具包
North-Mini-Code-1.0 编程模型的 GGUF 副本,用 ByteShape 的 ShapeLearn 压缩,面向 llama.cpp 中的 GPU 使用。四种大小,从 12.1 GB 到 21.5 GB,适合单 GPU 的开发者。
ByteDance-Seed · 工具包
一个开放的多模态智能体模型,能读屏幕截图并决定在应用、浏览器、手机和游戏中做什么。适合构建电脑操作和图形界面自动化智能体的开发者。
ByteDance-Seed · 工具包
一个研究用的文本生成模型,在连续潜空间中写作,把文本自编码器和扩散 Transformer 配在一起。适合想运行并测试已发布检查点的研究人员和开发者。
bartowski · 工具包
Qwen3.5-4B 的 imatrix GGUF 量化版本,这是一个带 MTP 层的 4.3B 图文模型,4 位文件约 3 GB。适合在本地运行小模型的人。
bartowski · 工具包
MiniCPM5-2B 文本模型的多种大小的量化 GGUF 副本,用 llama.cpp 和重要性矩阵制作。适合在自己电脑上运行小型中英文模型的人。
bartowski · 工具包
novel-humanize-4b 中文文本模型的量化 GGUF 副本,从完整精度到小体积文件都有。适合想在自己电脑上运行 40 亿参数写作模型的人。
bartowski · 工具包
IBM 的 granite-4.2-3b 文本模型的量化 GGUF 副本,从完整精度到较小的 3 位文件,尺寸齐全。适合想在自己电脑上运行小型聊天模型的人。
bartowski · 工具包
Google Gemma 4 31B 指令模型的量化 GGUF 文件,大小从 17.15 GB 到 61.41 GB,由 bartowski 用重要性矩阵制作。可读取图像和文字。可在 llama.cpp、LM Studio 等工具里运行。
bartowski · 工具包
Cloudflare 的 clef 决策模型的静态 GGUF 量化版本,它不写文字,而是一次性为关于某个状态的类型化问题的每个选项打分。适合用 llama.cpp 运行它的开发者。
barozp · 工具包
面向 Apple Silicon 的 4 位 MLX 版本,来自从稠密的 Qwen3.8-27B 切出来的混合专家模型,总参数 27B,激活 17.8B。适合用 mlx-lm 运行本地模型的人。
baidu · 工具包
读取图像和文字并进行推理,29.7B 参数中同一时间约有 3B 处于激活状态。涵盖读图表、根据照片解 STEM 题、视觉定位和放大图像。Apache 2.0。
baidu · 工具包
以推理见长的 ERNIE 4.5 混合专家文本模型,总参数 21B、激活参数 3B,上下文 128K,支持工具调用,支持英文和中文。适合需要用较小激活规模做深度推理的开发者。
axiomofmind · 工具包
MOSS-Image-SFT 扩散 Transformer 的非官方 GGUF 文件,有 Q8_0 和 Q4_K_S 两种,用 stable-diffusion.cpp 在本地做文字生成图像。需要另外准备 Qwen3.5-9B 编码器、分词器和 VAE。
axiomofmind · 工具包
面向 MOSS-Image 模型的人像与美妆摄影 LoRA,能生成整洁的特写人像,光线柔和,皮肤和头发细节细腻,用 moss_beauty_style 触发。适合用 Diffusers 或 ComfyUI 的图像创作者。
AxiomicLabs · 工具包
Axiomic Labs 的 149M 参数基础文本模型,会接着你给的文本往下写。模型卡报告它的 Intelligence Index 为 33.05,高于 SmolLM2-135M 的 27.13。F32 下约 598 MB。
autotrust · 工具包
在 DGX Spark 上把 Qwen3.8-27B NVFP4 的解码速度提高约 3.9 倍,权重不变,只靠调好的推测解码配置。适合在 Blackwell GPU 上用 vLLM 部署它的团队。
AuroraAI-Research · 工具包
微型文字生成图像模型,根据英文提示词生成固定 256 乘 256 的图片,基于从零训练的 50.4M 流匹配 Transformer。这是一个预览版本,适合研究人员和爱好者。
aurekaresearch · 工具包
预测蛋白质等生物分子的原子级三维结构,服务于早期药物研究。可在命令行用 GPU、CPU 或 Docker 运行。目前是预览版本。
ATH-MaaS · 工具包
文档解析模型:读取一页图像,按阅读顺序输出 Markdown,涵盖文字、公式和表格。约 0.8B 参数,通过 vLLM 运行。适合做文档数字化的开发者。
arcinstitute · 工具包
一个 7B 的 DNA 语言模型,可读取最长 100 万长度的序列,来自 Arc Institute 的 Evo 2 系列。适合处理基因组数据、想要中等大小检查点的研究者。
apodex · 工具包
面向长篇研究任务的推理模型,能处理文件、数据、代码和工具,以 GGUF 文件提供,可以自己托管。适合自己运行模型的研究者和开发者。
APEXE3HQ · 工具包
找出数字版 PDF 页面上的每个表格,并逐个单元格重建,保留合并单元格、表头、标题和脚注。适合从报告、申报文件和论文中提取表格的团队。
answerdotai · 工具包
预测英文文本或代码中被隐藏的词,微调之后可作为更大的长上下文编码器,用于搜索、分类和检索。适合想要更大号 ModernBERT 的开发者和研究者。
answerdotai · 工具包
预测英文文本或代码中被隐藏的词,微调之后可作为长上下文编码器,用于搜索、分类和检索。适合需要快速 BERT 风格编码器的开发者和研究者。
amd · 工具包
把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本,通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。
amalia-llm · 工具包
用欧洲葡萄牙语写作和回答,是葡萄牙高校推出的开源 9B 聊天模型,经监督微调和 DPO 调优。适合需要欧洲葡萄牙语语言模型的开发者和研究者。
allenai · 工具包
用运行成本较小的混合专家模型续写英文文本,激活参数 1B,总参数 7B。代码、数据和检查点全部开放,适合使用 transformers 的研究人员和开发者。
allenai · 工具包
回答前先用英语一步步推理,对数学和代码问题有帮助。这是 allenai 的 32B 开放模型,公开了代码、检查点和训练细节,通过 transformers 运行。
zerofata · 工具包
zerofata 基于 Gemma 4 31B 指令模型做的 31.3B 模型,适合想试用这个调优版本或和原模型对比的人。模型卡文字对用途说得很少。
unsloth · 工具包
在你自己的机器上读取文字和图片、编写代码并调用工具,使用 Unsloth 刷新后的 Qwen3.5 35B-A3B 视觉语言模型 GGUF 文件。适合运行本地智能体的开发者。
tencent · 工具包
为 Qwen3-8B 的推测解码一次起草多个词元,让模型服务器一次检查它们。适合推理工程师和推测解码研究人员。
tencent · 工具包
在 33 种语言之间翻译文本并遵循翻译指令,是腾讯 7B 模型面向 llama.cpp 的 GGUF 版本。适合在本地运行翻译的开发者。
tencent · 工具包
在 33 种语言之间翻译文本并遵循翻译指令,是适用于 llama.cpp 的 1.8B GGUF 格式模型。适合想要一个小型本地翻译器的开发者。
Qwen · 工具包
作为最小的指令微调 Qwen2.5 模型回答对话提示,约 0.5B 参数。适合想要轻量本地模型来做对话、结构化输出和测试的开发者。
opendatalab · 工具包
读取文档页面图像并返回文字,是一个 1.2B 参数、为中英文文档解析打造的模型。适合把扫描页变成可用文字的团队。
lodestones · 工具包
用基于 FLUX.1-schnell 的 8.9B 开放基础模型把文字提示词变成图片,是为想微调自己图像模型的艺术家和开发者准备的起点。
IFM · 工具包
作为一个上下文窗口达 512K token 的小型开源模型,处理编程、推理和智能体类任务。由 IFM 制作,适合想要公开的训练数据、代码和训练中途检查点的人。
HuggingFaceTB · 工具包
用一个 3.62 亿参数、训练了 4 万亿词元、轻到能在设备上运行的基础语言模型,根据提示续写英文文本。适合想用小型基础模型做测试或微调的开发者。
HuggingAI4Engineering · 工具包
给把文字或图片描述变成有效 3D CAD 模型的 AI 系统排名,并为上传的 STEP 或 BREP 文件打分。适合 CAD 生成的研究者和工程师。
edbrdi · 工具包
用一个只有 94K 参数的小模型在浏览器里朗读法语文字,完全在你自己的设备上运行,声音是 Estelle。适合想要不用服务器、不用安装的法语语音的人。
allenai · 工具包
回答关于图片、视频以及多张图片的问题,还能指出它找到的东西。适合想要开源 8B 视觉语言模型来做视频问答、计数和描述的开发者。
Alissonerdx · 工具包
为 LTX 2.3 视频模型提供 LoRA 文件,可填补视频中被遮罩的区域,带或不带视觉参考都行,另有一个实验性的视频编辑 LoRA。适合使用 LTX 2.3 的视频创作者。
alibaba-pai · 工具包
用 Canny、Depth、Pose 或 MLSD 等控制条件,或用轨迹,来引导生成的视频。适合在 videox_fun 库里使用 5B Wan2.2 基础模型的视频创作者和研究者。
AhmedReda25300 · 工具包
根据一段简短的阿拉伯语情境、一个问题和可选选项,挑出最合适的答案标签。适合用 0.8B 级小模型处理阿拉伯语路由或判断任务的开发者。
agentionai · 工具包
把 Qwen3.8-27B 打包成适用于 llama.cpp 的 GGUF 文件,有八种大小,从 8.95 到 16.35 GiB,另附视觉投影器。作者称在每个大小上,它与 BF16 模型的偏离都比其他量化版本小。
Accio-Lab · 工具包
Accio-Lab 推出的开放 35B 图文模型,基于 Qwen3.6-35B-A3B,提供 BF16、GGUF、FP8、NVFP4 和 MLX 格式。适合部署大模型的团队。
abacusai · 工具包
针对音频、图像或文本的提问,一次前向传播就给出每个选项的概率,不生成文字。这是从 Gemma 4 E4B-it 微调而来的 4B 决策模型。
0xKitkat · 工具包
把 Qwen3.8-Flash-Next 混合专家模型压缩成约 37 GiB 的纯文本 GGUF 文件,供实验使用。它需要发布包里附带的补丁版 llama.cpp 才能运行。
JuneoAI · 工具包
通过一次推理给候选选项打分,帮助组织决定谁来做任务、谁能看到信息、运行什么以及接受什么。这是基于 Qwen3.8-27B 的 27.4B 模型,权重以 Apache-2.0 开放。
ZibinDong · 工具包
把机械臂的动作转成紧凑的词元,也能转回去,提供 34 个现成的分词器变体。适合训练读写机器人动作的模型的机器人研究人员。
ZhuYuhan · 工具包
找出视频里某件事发生的时间,并回答关于视频的选择题,方式是直接给候选项打分。基于 Qwen3.5-4B,适合视频研究者和开发者。
ZelligeAI · 工具包
用一个会以压缩的中英文速记思考的 27B 模型运行编码智能体循环,每轮花更少的思考词元。适合自己托管大模型的开发者。
ZBox008003 · 工具包
在多智能体运行展开时进行审计,标出最早的决定性错误,并指出出错的步骤、智能体和简短原因。适合构建和调试智能体团队的开发者。
zabibutechnika · 工具包
用一个 4B 模型以斯瓦希里语和英语作答,设计为在你自己的设备上离线私密运行。适合需要非洲语境(如肯尼亚数据)的本地助手。
ykarout · 工具包
为 Strata 推理引擎准备的 35B 模型 Sage-A1.5 的 Q4_K_M GGUF,能在 16 GB 显卡加 64 GB 内存上放下完整的 262K 上下文。适合在本地运行大模型的人。
webbrain-one · 工具包
用约 2 GB 的 GGUF 文件运行被压缩成三值权重的 Qwen3.5-9B,可在两个 llama.cpp 变体里用 CPU 运行。适合尝试极端压缩的研究预览版。
WarmBloodAban · 工具包
两个用于 Qwen-Image 2.1 图像编辑的 LoRA 插件:一个让动漫角色保持一致,另一个把任意风格的画面变成写实的人物。适合用 AI 编辑图片的人。
Wan-AI · 工具包
用 14B 的 Wan2.1 模型根据文字提示词生成 480P 或 720P 视频,还能把中文和英文文字放进画面。适合有强力 GPU 硬件的创作者和研究人员。
vpakarinen · 工具包
MiniMax H3 视频模型的 LoRA 附加件,目标是在文生视频和图生视频里得到自然的面部动作和清晰的英语语音。适合制作人物说话短视频的人。
vladers · 工具包
把语音转成文字,支持七种语言,是 IBM Granite Speech 5.0 TurboCTC 470M 的量化 GGUF 版本,为 transcribe.cpp 制作。适合想加入本地听写或转录功能的开发者。
unsloth · 工具包
Unsloth 制作的 Z-Image-Turbo 的 GGUF 文件,这是一个快速的蒸馏文生图模型,作者称它能放进 16 GB 的消费级 GPU。适合用支持 GGUF 的工具在本地生成图像的人。
unsloth · 工具包
用 Qwen3.6 27B 写代码和推理,提供 Unsloth 制作的、带多词元预测的 GGUF 文件,卡片说回复能快约 1.5 到 2 倍,且不损失准确度。为编程智能体而做。
unsloth · 工具包
在 llama.cpp 里运行小型的 Qwen3.5 0.8B 视觉语言模型,借助多 token 预测加快生成,使用 Unsloth 的 GGUF 文件。适合测试推测解码的开发者。
unsloth · 工具包
在本地运行一个能读文字和图片、调用工具并在调用失败后重试的 30B 智能体模型,使用 Unsloth 的 GGUF 文件。适合在消费级硬件上构建本地智能体的开发者。
unsloth · 工具包
用 IBM 的 Granite 4.1 8B 模型遵循指令、调用工具和聊天,提供 Unsloth 制作的 GGUF 文件,包含聊天模板修复。适合商业助手和会用工具的智能体。
unsloth · 工具包
用 Unsloth 的 4 比特 QAT GGUF 文件运行 Google 的 Gemma 4 31B 指令模型,自带用于推测解码的草稿模型,可在 llama.cpp 中加速。适合在本地部署大型多模态模型的人。
TokenRhythm · 工具包
从 Qwen3.5-9B 后训练而来的 9B 文本模型,面向智能体框架、工具调用、编程和指令遵循,只发布文本权重。适合在自己硬件上运行智能体的开发者。
tiiuae · 工具包
用一个小型 270M 参数模型读取文档图片,返回文字、LaTeX 公式或 HTML 表格,支持扫描件、收据和手写内容。
THUSI-Lab · 工具包
基于 Qwen3.5-0.8B 的小型视觉语言模型,来自一个面向多种虚拟游戏世界中具身智能体的持续预训练研究项目。适合研究游戏智能体的研究者。
theforecastingcompany · 工具包
以概率估计的方式预测多个时间跨度的时间序列,并支持节假日、天气等协变量。适合测试预测模型的分析师和开发者。
thedeoxen · 工具包
在 ComfyUI 里为 MOSS-Image-SFT 提供涂鸦控制的 LoRA,把黑底上的白色粗线条变成成品图,由提示词决定质感和风格,适合从草图出发的人。
thedeoxen · 工具包
为 MOSS-Image-SFT 在 ComfyUI 里提供线稿控制的 LoRA,可以给线稿上色,或把照片变成保留线条结构的新场景,适合重绘线稿和设计草图的人。
thedeoxen · 工具包
在 ComfyUI 里为 MOSS-Image-SFT 提供 Canny 边缘控制的 LoRA,保留照片的轮廓,让提示词改变材质、颜色和风格,适合编辑和重绘图片的人。