LiquidAI 的 LFM2.5-2.6B 的 GGUF 版本,加入 DavidAU 的 Turbo Brilliance 系统,有 12 种推理模式和 12 种指令模式,在提示词里切换。2.7B 测试版,供本地运行。
AI 智能体技能、规则与提示词工具包
类别与筛选
没有商品同时包含“qwen4”的所有词。下面显示匹配“qwen3”的结果。
商品
Qwen3.8-27B-GGUF
bartowski · 工具包
bartowski 制作的 Qwen3.8-27B 的一组 GGUF 量化版本,从 Q8_0 到 3-bit,用重要性矩阵生成。适合在本地用 llama.cpp 运行 27B 视觉语言模型的人。
AsteroRank-Lepton
Asteromorph · 工具包
为每份文档与搜索查询的相关度打分,可附带上下文,用来重新排序搜索结果。这是基于 Qwen3.5 构建的 4B 开放权重重排序模型,适合科学和通用搜索。
Qwen3.5-9B-MTP-GGUF
unsloth · 工具包
Qwen3.5 9B 的 GGUF 版本,支持在 llama.cpp 里用多词元预测做推测解码,生成更快。适合会自己构建 llama.cpp、想在本地运行这个模型的人。
Qwen3.5-0.8B-GGUF
unsloth · 工具包
unsloth 制作的 Qwen3.5-0.8B 小型 GGUF 版本,能读图片和文字并用文字回答。适合在本地做原型、微调和研究。
Qwen3.8-27B-exl3
turboderp · 工具包
Qwen3.8-27B 的 EXL3 量化版本,提供从 1.40 到 6.00 的多种每权重比特数。适合在显存有限的 GPU 上用 ExLlamaV3 本地运行 27B 模型的人。
mai_replier-9b-v3
tcmofashi · 工具包
在中文 QQ 群聊里扮演一个角色:读取聊天记录,写出一句简短随意的回复,不显示推理过程。这是 Qwen3.5-9B 的合并 9B 微调模型,也能读取聊天里的图片。
Qwen3.8-27B-1C
sweetand · 工具包
帮助 1C:Enterprise 平台上的开发者读取和修改 BSL 代码,并在 XML 导出里查找对象。这是以俄语为主的 Qwen3.8-27B 微调版本,这里提供 GGUF 格式。
strands-decider-2B-qwen3.5-v1-2610
StrandsAgents · 工具包
为智能体流程做快速决策:在选项中挑选,或按等级打分,每个答案都带校准过的置信度。适合做模型路由、选择工具和分流请求的开发者。
Qwen3.8-27B IQR-V4
StillDeadcode · 工具包
把 Qwen3.8-27B 压缩成十五种大小,每个权重约 2.5 到 8 位,面向 AMD RDNA4 GPU 上的 radiance 引擎,内含图片读取和提速草稿器。
Qwen3.5-35B-A3B
Qwen · 工具包
能读图像和文字的多模态聊天模型,总参数 35B,每次只启用其中 3B。适合用 Transformers、vLLM 等自己部署大模型的开发者。
Qwen3.5-27B
Qwen · 工具包
读取文字和图片并写出文字,是带视觉编码器的 27B Qwen 模型,原生上下文为 262,144 个词元。适合在服务器级硬件上构建助手和智能体的开发者。
Qwen3-Reranker-0.6B
Qwen · 工具包
为每个段落回答查询的程度打分,把最好的段落排在搜索和检索系统的前面。这是覆盖 100 多种语言的 0.6B 文本重排模型,适合搭建搜索的开发者。
Qwen3-0.6B-Base
Qwen · 工具包
提供 Qwen3-0.6B-Base,这是 Qwen3 系列里小型的预训练基础模型,用 119 种语言训练,上下文 32k。适合要微调或研究微型语言模型的开发者。
Qwen Sharp Chat Templates
peculiar-ragdoll · 工具包
替换 Qwen3.5、3.6 和 3.8 模型的聊天模板,让它们回答前少想一些、回复更紧凑。适合在本地运行 Qwen 做编程和知识工作的人。
Qwen3.8-27B-4bit (MLX)
mlx-community · 工具包
Qwen3.8-27B 的 4 位 MLX 转换版,能读文字和图像并用文字回答,用 mlx-vlm 工具运行。适合想在本地运行视觉语言模型的开发者。
Qwen3.8-27B-GGUF
lmstudio-community · 工具包
Qwen 的 Qwen3.8-27B 的 GGUF 量化版本,由 LM Studio 团队用 llama.cpp 制作,适合在自己电脑上运行 27B 模型的人。
Qwen3.8-27B QSA BF16
higa2515 · 工具包
在 Qwen3.8-27B 上加了学习型稀疏注意力索引器的 BF16 源权重,附带参考用的 Transformers 加载器,适合研究或部署 Qwen Sparse Attention 的人。
Quark
FirstPrinciplesLabs · 工具包
FirstPrinciples 从 Qwen3.5-9B 微调出的 9B 物理、科学和数学推理模型。适合想要分步推导和第二意见,并希望在本地或离线使用的研究者。
Qwen3.8-2B-Distill-GGUF
empero-ai · 工具包
在手机、笔记本和单板计算机上运行小型 2B 推理模型,提供五种量化等级的 GGUF 文件。由 Empero 打包,是大型 Qwen3.8 模型的蒸馏版本,适用于 llama.cpp。