Unlimited-OCR-2-GGUF
RX5950XT · 工具包
Unlimited-OCR-2 文档 OCR 模型的 GGUF 文件,提供 BF16、Q8_0 和 Q4_K_M,并附视觉投影器。只能在应用了仓库补丁的 llama.cpp 里运行,适合在本地读取扫描和多页文档的人。
RX5950XT · 工具包
Unlimited-OCR-2 文档 OCR 模型的 GGUF 文件,提供 BF16、Q8_0 和 Q4_K_M,并附视觉投影器。只能在应用了仓库补丁的 llama.cpp 里运行,适合在本地读取扫描和多页文档的人。
Qwen · 工具包
通过 mlx 库运行 Qwen3 8B 语言模型,用于聊天、推理、翻译和智能体任务。适合想在本地使用可切换思考模式的文本模型的开发者。
QUASAR-QAT · 工具包
以 4-bit NVFP4 运行 Qwen3.8-27B,仅 19.7 GB,用 QUASAR 方法训练,使它接近完整的 BF16 模型。适合在 NVIDIA Blackwell GPU 上用 vLLM 部署的人。
PrimeIntellect · 工具包
收录 Jacobian 透镜文件,用来比较 Laguna-XS-2.1 的 bf16 与 NVFP4 副本,另有与 Laguna-XS.2 的版本对比。适合研究模型内部结构的人。
IFM · 工具包
3.7B 参数 K2-Horizon 文本模型的 GGUF 文件,提供从 BF16 到 Q4_K_M 的六种精度,用于 llama.cpp 运行。模型有 512K token 的上下文窗口。
agentionai · 工具包
把 Qwen3.8-27B 打包成适用于 llama.cpp 的 GGUF 文件,有八种大小,从 8.95 到 16.35 GiB,另附视觉投影器。作者称在每个大小上,它与 BF16 模型的偏离都比其他量化版本小。
Accio-Lab · 工具包
Accio-Lab 推出的开放 35B 图文模型,基于 Qwen3.6-35B-A3B,提供 BF16、GGUF、FP8、NVFP4 和 MLX 格式。适合部署大模型的团队。
Qwen · 工具包
Qwen 出品的小型 494M 参数聊天模型,能遵循指令,BF16 权重约 988 MB,通过 Transformers 运行。适合需要轻量模型做测试或简单任务的开发者。
PedroMarinhoDev · 工具包
在 ComfyUI 里根据文字提示生成图像,用的是 Linum 的 2B 参数 P-JiT 21K 模型,提供 bf16 和 int8 文件,4 GB 空闲显存就能运行。适合显卡配置一般的 ComfyUI 用户。
IFM · 工具包
IFM 的 K2-Horizon-7B 文本模型的量化 GGUF 副本,可在 llama.cpp 中本地运行,从 BF16 到 4 位都有,上下文窗口为 512K 词元。
zai-org · 工具包
一个 320B 参数、激活 18B 的多模态模型,能读文字和图像,思考预算可调,用混合注意力设计处理长上下文。适合有像样 GPU 基础设施的团队。
Comfy-Org · 工具包
为 ComfyUI 文本编码器文件夹重新打包的 Qwen3-VL 4B 和 8B 模型文件,提供从 bf16 到 4-bit 风格的多种精度。适合需要 Qwen3-VL 文本编码器的 ComfyUI 用户。
bartowski · 工具包
支持中英文的小型聊天模型,GGUF 文件从完整 bf16 到约 2.4 GB,供 llama.cpp 使用,有低或高两档思考设置。适合想要紧凑本地助手的开发者。
higa2515 · 工具包
在 Qwen3.8-27B 上加了学习型稀疏注意力索引器的 BF16 源权重,附带参考用的 Transformers 加载器,适合研究或部署 Qwen Sparse Attention 的人。
Comfy-Org · 工具包
为 ComfyUI 文本编码器文件夹重新打包的 Qwen3.5 2B、4B 和 9B 模型文件,9B 提供 bf16 和两种量化风格。适合需要 Qwen3.5 文本编码器的 ComfyUI 用户。
Comfy-Org · 工具包
借助 BRIA AI 重新打包的 Fibo 2.0 文件,在 ComfyUI 里编辑图片,提供 bf16 和 int8 两种版本,以及 Dev 和 Turbo 编辑工作流。适合在自己电脑上用 ComfyUI 的用户。仅限非商业许可。
qvac · 工具包
0.8B 工具调用模型 BotPsy 的 GGUF 版本,提供 BF16、Q8_0 和 Q4_K_M 三种文件,用 llama.cpp 在你自己的设备上完整运行智能体和函数调用任务。
Comfy-Org · 工具包
把腾讯的 WeVisOne-VL 模型文件重新打包给 ComfyUI 使用,有 4B 和 2B 两种尺寸,各有 BF16 和 int8 版本。适合需要把文件放进文本编码器文件夹的 ComfyUI 用户。
ISTA-DASLab · 工具包
Qwen3.8-Flash-Next 的偏编程 GGUF 版本,去掉了一半专家,把 BF16 的 354 GB 缩到 58.4 GB,同时保留图片输入,适合有大机器、想在本地用编程模型的人。
maritaca-ai · 工具包
Maritaca AI 基于 Qwen3.5-4B 制作的葡萄牙语和英语小模型,有 Think 和 Instruct 两种模式,工具使用能力强,这是适用于 vLLM 和 SGLang 的 BF16 版本。适合构建巴西葡萄牙语助手的开发者。