DavidAU 对 27B Qwen 模型的 GGUF 微调版,有可切换的指令和推理模式,以及内置的帮助系统。Hugging Face 把它列为图文转文字。供本地运行。
AI 智能体技能、规则与提示词工具包
类别与筛选
商品
Meta-Llama-3.1-8B-Instruct-GGUF
bartowski · 工具包
Meta Llama 3.1 8B Instruct 的量化 GGUF 文件,用于本地聊天,例如 Q4_K_M 为 4.92 GB,Q8_0 为 8.54 GB。由 bartowski 用重要性矩阵制作。涵盖 8 种语言,可在 LM Studio 中运行。
Llama-3.2-3B-Instruct-GGUF
bartowski · 工具包
bartowski 用重要性矩阵为 Meta 的 Llama-3.2-3B-Instruct 制作的 GGUF 量化版本,大小约从 1.8 GB 到 6.4 GB。适合用 llama.cpp 或 LM Studio 在本地运行小型聊天模型。
Llama-3.2-1B-Instruct-GGUF
unsloth · 工具包
在笔记本上聊天、总结和回答文字问题,是 Unsloth 提供的 Meta 小型 Llama 3.2 1B Instruct 的 GGUF 副本,精度从 16 比特到 2 比特。适合开发者和学习者。
gemma-4-E2B-it-GGUF
unsloth · 工具包
Unsloth 制作的 Google DeepMind Gemma 4 E2B 指令微调模型的 GGUF 文件,接收文本和图像并输出文本,上下文为 128K。适合在笔记本和小型机器上本地运行模型的人。
gemma-3-4b-it-GGUF
unsloth · 工具包
在你自己的电脑上回答关于文字和图片的问题,是 Unsloth 打包的 Google Gemma 3 4B 指令模型的 GGUF 副本。适合想用小型本地模型的开发者和用户。
Hy-MT2-30B-A3B
tencent · 工具包
腾讯推出的 30B 混合专家翻译模型,支持 33 种语言互译,并能遵循翻译指令。适合要在自己 GPU 上做大批量机器翻译的团队。
Qwen2.5-Coder-32B-Instruct
Qwen · 工具包
编写、解释和修复代码,是 Qwen2.5-Coder 系列中最大的指令微调模型,32B 参数。适合想在自己硬件上运行强大开源编程模型的开发者。
Qwen2.5-Coder-14B-Instruct-GGUF
Qwen · 工具包
提供 Qwen2.5-Coder 14B 指令模型的 GGUF 文件,有八种量化大小,可用 llama.cpp 辅助写代码。适合有好 GPU 或大内存机器、想要更强本地代码助手的开发者。
Qwen2.5-Coder-1.5B-Instruct-GGUF
Qwen · 工具包
提供 Qwen2.5-Coder 1.5B 指令模型的 GGUF 文件,有八种量化大小,可用 llama.cpp 在笔记本上辅助写代码。适合想要轻量本地代码助手的开发者。
π₀.₅ (Pi05) (LeRobot)
lerobot · 工具包
一个机器人控制模型,读取摄像头图像、机器人状态和可选的指令,输出连续动作。它是基础检查点,适合用自己的机器人数据做微调的研究者。
Index-Translate-2B
IndexTeam · 工具包
在 150 种语言之间翻译文本,并遵循关于术语表、格式、语气和长度的指令。这是 IndexTeam 的紧凑 2.3B 模型,适合在本地翻译的团队,还能通过配套文件翻译图片。
SmolLM2-135M-Instruct
HuggingFaceTB · 工具包
用一个 1.35 亿参数、小到能在设备上运行的指令微调模型回答聊天式问题,也能做改写和摘要。适合需要在 Python 或 JavaScript 中使用微型聊天模型的开发者。
SmolLM2-1.7B-Instruct
HuggingFaceTB · 工具包
聊天、改写和总结文本,还能调用函数,是一个小到可以在设备上运行的 1.7B 紧凑模型。这是 HuggingFaceTB 经过指令微调的 SmolLM2,适合想要小型英文模型的开发者。
Qwen-Image-Edit
Comfy-Org · 工具包
为 ComfyUI 重新打包的 Qwen-Image-Edit 模型文件和 LoRA,附带根据文字指令编辑图片的工作流。适合修图和改风格的 ComfyUI 用户。
Qwen3-Embedding-4B
Qwen · 工具包
把 100 多种语言的文字和代码变成向量,用于搜索、检索、分类和聚类,向量大小可调,还支持任务指令,适合构建搜索和 RAG 系统的开发者。
Qwen3-4B-Instruct-2507
Qwen · 工具包
用 4B 模型回答对话提示,不显示思考过程,可读取最多 256K token 的上下文。适合想要小型开源助手来做推理、编程和工具调用的开发者。
Qwen2.5-Coder-7B-Instruct
Qwen · 工具包
编写、解释和修复代码,是 Qwen2.5-Coder 系列里 7B 的指令微调成员。适合想要一个单张消费级 GPU 就能跑的开源编程模型的开发者。
Qwen2.5-1.5B-Instruct-GGUF
Qwen · 工具包
提供 Qwen2.5 1.5B 小型对话模型的 GGUF 文件,有八种量化大小,可用 llama.cpp 在笔记本或普通 GPU 上运行。适合想要轻量本地助手的人。
Qwen2.5-1.5B-Instruct
Qwen · 工具包
Qwen 的 1.5B 小型对话模型,能遵循指令、写代码和数学、输出 JSON 等结构化内容,支持超过 29 种语言。适合需要轻量模型的开发者。
Ming-3.0-audio-flash
inclusionAI · 工具包
接收音频和文字指令,返回文字,或带合成语音的文字。涵盖中英文的语音识别、语音问答和音频推理。适合拥有大型 GPU 的开发者。
LiquidAI 的 LFM2.5-2.6B 的 GGUF 版本,加入 DavidAU 的 Turbo Brilliance 系统,有 12 种推理模式和 12 种指令模式,在提示词里切换。2.7B 测试版,供本地运行。
Qwen-Image-2.1-Next-Scene-LoRA
akhaliq · 工具包
Qwen-Image-2.1 的 LoRA,把输入画面和导演式指令变成下一个镜头,并保持场景一致。适合做分镜的人和图像创作者。
Mistral-7B-Instruct-v0.3
mistralai · 工具包
Mistral AI 的 7.2B 开源聊天模型,能遵循指令,还能调用你描述的函数。它由 Mistral-7B-v0.3 微调而来,可用 mistral_inference 或 transformers 运行。
gemma-4-12B-it-qat-q4_0-gguf
google · 工具包
以 4-bit GGUF 文件运行 Google 的 Gemma 4 12B 指令微调模型,使用量化感知训练制作。能读取文本和图片,适合笔记本和消费级显卡。
gemma-4-12B-it
google · 工具包
接收文字、图片和音频并输出文字回答,是 Google DeepMind 的 12B 指令微调模型,上下文 256K 词元,思考模式可配置。适合在本地运行开放模型的开发者。
Qwen2.5-VL-7B-Instruct-GGUF
unsloth · 工具包
Unsloth 制作的 Qwen2.5-VL-7B-Instruct 的 GGUF 文件,这个视觉语言模型能读图像、图表、文档和长视频,还能输出坐标和结构化数据。适合在本地运行它的人。
gemma-4-E4B-it-GGUF
unsloth · 工具包
Google Gemma 4 E4B 指令模型的 4-bit GGUF 版本,由 Unsloth 打包,可在你自己的机器上运行。它能读取文字和图像,并用文字回答。
gemma-4-12b-it-GGUF
unsloth · 工具包
Unsloth 制作的 Google 指令微调 Gemma 4 12B 的 GGUF 量化版本,一个能读文字、图片、音频和视频并输出文字的模型,适合本地运行。
Hy-MT2-1.8B
tencent · 工具包
腾讯推出的 1.8B 模型,可在 33 种语言之间翻译,并能遵循翻译指令。适合想自己运行小型翻译模型的开发者和团队。
Llama-V-JEPA-LM-Qwen3-4B
kkt94 · 工具包
用一个 5.1B 的模型回答关于视频片段的问题,它把冻结的 V-JEPA 2.1 视频编码器接到 Qwen3-4B-Instruct-2507 上,适合有 16 GB 以上 GPU 的人。
Llama-V-JEPA-LM-Llama3.2-3B
kkt94 · 工具包
用一个 4.2B 的模型回答关于视频片段的问题,它把冻结的 V-JEPA 2.1 视频编码器接到 Llama-3.2-3B-Instruct 上,适合只有一块 12 GB 以上 GPU 的人。
Llama-V-JEPA-LM-Llama3.2-1B
kkt94 · 工具包
用一个 1.5B 的小模型回答关于视频片段的问题,它把冻结的 V-JEPA 2.1 视频编码器接到 Llama-3.2-1B-Instruct 上,适合只有一块普通 GPU 的人。
Hy-Nomas
tencent · 工具包
根据文字指令和镜头运动,一段一段地生成视频世界,你可以边生成边改变物体、风格和视角。适合创作者和研究者。
Bielik-11B-v3.1-Instruct GGUF
speakleash · 工具包
能用波兰语、英语和另外六种语言回答的聊天模型,打包成五种大小的 GGUF 文件,供 llama.cpp 或 Ollama 使用。适合想在自己电脑上用指令模型的人。
Llama-V-JEPA-LM-Llama3.1-8B
kkt94 · 工具包
把冻结的 V-JEPA 2.1 视频编码器接到 Llama-3.1-8B-Instruct 上,用来回答关于视频片段的问题,适合做视频理解的人。
gemma-4-31B-it-GGUF
unsloth · 工具包
通过 Unsloth 的 GGUF 文件在本地运行 Google 的 Gemma 4 31B 指令微调模型,支持文本和图像输入,上下文很长。适合想要强大本地推理和编程模型的开发者。
Qwen3-Embedding-8B
Qwen · 工具包
把文本变成向量,用于搜索、代码检索、分类和聚类,支持 100 多种语言。这是 Qwen 嵌入系列里的 8B 模型,向量大小可调,还支持任务指令。
Qwen-Image-Edit
Qwen · 工具包
根据文字指令编辑现有图片,修改物体、风格或图片里的中英文文字,适合使用 diffusers 库的设计师和开发者。
gemma-4-E2B-it-litert-lm
litert-community · 工具包
打包成 .litertlm 文件的 Gemma 4 E2B 指令微调模型,用于 LiteRT-LM 框架,适合在手机、桌面和边缘设备上私密地本地运行。
Gemma4-12B v2 Coding + Agentic Edition
yuxinlu1 · 工具包
Google Gemma 4 12B 指令模型的 GGUF 微调版本,面向编程和使用工具的智能体工作,只需约 4.5 GB 空闲内存就能离线运行。
MOSS-Image-Edit-HQ
akhaliq · 工具包
一个非官方的社区 LoRA,在 MOSS-Image-SFT 之上根据文字指令编辑图片,用于 ComfyUI。适合想试用开放的指令式图像编辑的图像创作者。
gemma-4-E4B-it
google · 工具包
接收文字、图像和音频输入并输出文字,上下文 128K token,支持 140 多种语言。这是 Google DeepMind 的小型指令微调 Gemma 4 模型,为在笔记本和手机上运行而设计。
Beam-1.0-501B-A23B
reflection · 工具包
Reflection 推出的开放指令微调文本模型,501B 参数,每次激活 23B,上下文 1M token,面向编程、工具使用和推理。需要大型多 GPU 服务器才能运行。
gemma-4-E2B-it
google · 工具包
接收文字、图像和音频输入并输出文字,上下文 128K token,支持 140 多种语言。这是 Google DeepMind 最小的指令微调 Gemma 4 模型,为手机和笔记本而设计。
Qwen2.5-Coder-7B-Instruct-GGUF
Qwen · 工具包
在你自己的电脑上运行 Qwen 的 7B 指令微调编程模型,打包成 GGUF 文件,有八种量化等级。适合想通过 llama.cpp 获得代码帮助的开发者。
gemma-4-26B-A4B-it
google · 工具包
Google 发布的经指令微调的 Gemma 4 模型,读取文字和图像并输出文字,支持可配置的思考、函数调用,上下文窗口最长 256K 词元。适合开发者和研究者。
Qwen3.8-27B Turbo Brilliance NEO MAX MTP GGUF
DavidAU · 工具包
以 GGUF 形式运行 Qwen3.8-27B,带有一组可在提示词里切换的推理和指令模式。适合运行本地模型、喜欢调整模型工作方式的人。
Oc-e-Non-v1
p-e-w · 工具包
用更少的字数作答,回复长度约为它所基于的 Qwen3-4B-Instruct-2507 的一半,简短直接。适合想要精简文本生成结果的人。
Alpamayo 2 Edge
nvidia · 工具包
读取多路摄像头画面、导航指令和运动历史,输出带文字理由的行驶轨迹,也能回答关于场景的问题。适合自动驾驶开发者和研究者。