开发者 AI 技能与智能体

VibeVoice-1.5B

microsoft · 工具包

把书面对话变成最多四位说话人、约 90 分钟的语音，是微软开放的文字转语音模型，适合研究英语和中文的播客式对话。

voicetut-egyptian-tashkeel

masterofaudio2077 · 工具包

朗读埃及阿拉伯语文本，并遵循你写进文本的短元音符号。这是 VoiceTut-TTS 的微调版，保留它的 19 个内置声音和声音克隆，适合应用开发者、旁白配音者和教师。

Meta-Llama-3.1-8B-Instruct-AWQ-INT4

hugging-quants · 工具包

以 4 位 AWQ 形式运行 Meta 的 Llama 3.1 8B Instruct 聊天模型，只需约 4 GiB 的 GPU 空闲显存来放权重。适合想要紧凑多语言聊天模型的开发者。

Ru-Jev

besktech · 工具包

根据上下文和一组选项，给出是非、选择或等级题的概率，以俄语为先。可在普通 CPU 上运行，适合把数据留在内部的团队。

officialmobai_Rostam-S1-4B-GGUF

bartowski · 工具包

Rostam-S1-4B 的 GGUF 量化版本，这是一个 4B 推理模型，擅长数学、物理、软件工作和波斯语与英语文本。适合在本地运行小模型、想自己挑文件大小的人。

Hemmingway-1.5 GGUF

bartowski · 工具包

HemmingwayAI 的 Hemmingway-1.5 的 imatrix GGUF 量化版本，这是一个 27B 文本模型，支持 MTP 推测解码，并有推理强度提示格式。适合在本地运行大模型的人。

AsteroRank-Lepton-GGUF

Asteromorph · 工具包

用面向 STEM 和通用搜索的重排序模型按相关度给搜索结果排序，以 GGUF 文件提供，可在 llama.cpp 中运行。适合想在本地排序的开发者和研究者，仅限非商业使用。

Dodaios

Dodaios · 工具包

开源的智能体操作系统，让你用语音或聊天指挥编码智能体、浏览器和其他桌面应用，每一次系统改动都要等你批准。

DataWorld-35B-A3B

Zhanli-Li · 工具包

用多轮智能体强化学习在 DataWorld 任务上调优的 Qwen3.6-35B-A3B 模型，面向会调用工具的智能体。适合部署大型混合专家模型的团队。

Swift 1.5 Ornith 9B GGUF

ukisai · 工具包

以 llama.cpp 用的 GGUF 量化版本运行 Swift 1.5 Ornith 9B，这是一个调校成用更少 token 思考的推理模型。适合在自己机器上运行 9B 推理模型的人。

whisper-base-ar-quran

tarteel-ai · 工具包

用微调过的 Whisper base 模型把阿拉伯语语音转成文字，在它的评估集上词错误率达到 5.7544。适合构建阿拉伯语语音功能的开发者。

Qwen-Image-Layered

Qwen · 工具包

把一张图片拆成几个透明的 RGBA 图层，这样你可以重新上色、缩放、移动或替换其中一块，而不影响其他部分。适合有 CUDA 显卡的设计师和开发者。

Phi-4-mini-instruct

microsoft · 工具包

Microsoft 推出的 3.8B 开放指令模型，上下文 128K token，为内存或延迟紧张时的推理、数学和逻辑而做。适合给应用添加文本功能的开发者。

mmBERT-base

jhu-clsp · 工具包

能读取并编码 1,800 多种语言的文本，用于分类、嵌入、检索和完形填空任务。适合要微调多语言编码器的开发者和研究者。

Qwen3.8-9B-Distill

empero-ai · 工具包

逐步推理数学、代码和一般问题，每个回答都以思考块开头。这是用更大的 Qwen3.8 教师模型的轨迹训练出的 9B Qwen3.5 模型，适合单张 GPU 使用。

Ornith-1.5-35B-A3B-NVFP4

ornith-ai · 工具包

能写代码、处理终端智能体任务，是每个 token 约用 3B 参数的混合专家模型，这里是 NVFP4 版本。适合想在自己硬件上部署编程模型的开发者。

GLiNER2.5 Base

fastino · 工具包

用同一个模式从英文文本中抽取实体、关系和结构化记录，并给文本分类，在本地的 CPU、CUDA 或 MPS 上运行。适合构建文本抽取流程的开发者。

MN-Violet-Lotus-12B-GGUF

mradermacher · 工具包

FallenMerick 的 MN-Violet-Lotus-12B 的静态 GGUF 文件，大小从 4.9 GB 到 13.1 GB。适合想在自己电脑上运行 12B 模型的人。

T5 Small

google-t5 · 工具包

用一个小型的 60M 参数 T5 模型，把一段文字转成另一段文字，翻译、摘要、问答和分类都当作文字到文字的任务来做。适合想要一个小型起点模型的开发者和学生。

VGGT-1B

facebook · 工具包

一次前向计算就能从一张、几张或上百张图片推断出场景的 3D 结构，包括相机参数和深度图。适合计算机视觉开发者和研究人员。

gemma-4-26B-A4B-it Cactus CQ

Cactus-Compute · 工具包

Google gemma-4-26B-A4B-it 聊天模型的 2 位、3 位和 4 位压缩副本，使用 Cactus 权重格式。专为通过 Cactus 运行时在 ARM 设备上运行而做。

Ornith-1.5-9B-GGUF

AtomicChat · 工具包

Ornith 1.5 9B 的 GGUF 版本，这是一个能读图像和文字的模型，文件大小从 2.81 GB 到 17.9 GB，另有视觉投影文件。选一个适合你显存的文件，在本地运行。

Groot-19B-A3B-TTQ-GGUF

TokenTinkerer · 工具包

为 llama.cpp 提供 Groot-19B-A3B 推理模型的十一种 GGUF 大小，从 7.88 到 18.59 GiB，另有一个视觉投影文件。适合在自己电脑上运行该模型的人。

Qwen3.5-4B-3D-Coder-GGUF

prithivMLmods · 工具包

用早期预览版 Qwen3.5-4B 微调模型的 GGUF 副本写代码，并生成自包含的 Three.js 交互 3D 场景页面。适合在本地做 3D 场景原型的开发者。

Idol-ComfyUI

PedroMarinhoDev · 工具包

在 ComfyUI 里把一张物体图片变成完整的 3D 高斯点云，适合想用单张图片得到 3D 的美术人员和开发者。

DeepSeek-V4.1-Flash-1017-TrellisMX-FLARE

JMNI-Labs · 工具包

用压缩的 TrellisMX 包，在两台 NVIDIA DGX Spark 上提供带兼容 OpenAI API 的 DeepSeek V4.1 Flash 服务。适合在自己的 Spark 硬件上运行大模型的团队。

MOSS-Image-IDM-2-Steps

akhaliq · 工具包

用两步、不带引导的方式从文字生成图片，是 MOSS-Image-SFT 的一个小适配器，另有第二个适配器可做轻度图片编辑。适合在本地运行图像生成的人。

zeta-2.1

zed-industries · 工具包

根据文件上下文和你最近的编辑，预测光标附近的代码接下来该怎么改写。这是 Zed Industries 的模型，适合构建编辑器功能的人。

Qwen3.8-27B-DFlash2-GGUF

z-lab · 工具包

GGUF 格式的草稿模型，通过提出词元块让主模型验证来加速 Qwen3.8-27B。适合在本地用 llama.cpp 运行该模型的人。

LocalAlign_llama3.1_8B

yuyangGong · 工具包

Llama-3.1-8B-Instruct 的 LoRA 适配器，训练它遵循可信指令、忽略藏在外部数据里的命令。适合构建 LLM 应用、需要提示词注入防御的人。

send-gate-307m

yamura4 · 工具包

检查荷兰语、佛兰芒语和英语的青少年聊天消息，返回拦截或放行，能发现有害用语以及分享的地址、IP 和链接。适合构建儿童安全聊天应用的人。

Yalda Embedding

Yaldat · 工具包

把波斯语文本转成 1,024 维的嵌入向量，用于语义搜索和检索。适合需要把波斯语问题匹配到正确段落的开发者。

MiMo-V2.6-Pro-MOPD

XiaomiMiMo · 工具包

用 1T 参数的混合专家模型处理文本、图像、视频和音频，并经过调教，在智能体工作中更少重复调用工具。适合能托管超大模型的团队。

Spark-X2.6-4B-FP8

XHToken · 工具包

面向设备端运行的 4.1B 参数紧凑文本模型，FP8 版本，有 none、low、high 三档思考等级，支持中英文。适合在小型硬件上做编程和智能体任务。

Spark-X2.6-1.7B-Base

XHToken · 工具包

一个紧凑的 1.7B 语言模型，面向设备端使用，支持英文和中文，在编程、智能体任务和长上下文上有提升，并有三档可调的思考级别。适合在本地运行模型的开发者。

Spark-X2.5-4B

XHToken · 工具包

一个紧凑的 4.1B 通用语言模型，原生支持 1M token 上下文和 200 多种语言，采用混合注意力设计，针对编码和智能体使用调校。适合想要小型开放模型的开发者。

Agent Manager

lvwerra · 工具包

在一个私有的浏览器工作区里运行 Claude Code、Codex 和 Gemini CLI 等编程智能体，让你并排跟进多个任务，还能换一台设备继续。

Wan2.2-TI2V-5B-Diffusers

Wan-AI · 工具包

根据文本提示或图像加文字生成视频片段，最高 720P、每秒 24 帧，Diffusers 格式，适合单块消费级 GPU。

Wan2.2-S2V-14B

Wan-AI · 工具包

根据音频生成电影感的角色视频，也能给现有视频做口型同步。适合有大显卡的视频创作者、动画师和研究人员。

Wan2.2-Animate-14B

Wan-AI · 工具包

通过复制表演者的动作和表情，让角色动起来，或把角色换进视频里，是 Wan2.2 视频系列中的一个模型。只能使用你有权使用的面孔和形象。

d3-turbo

vllm-sr · 工具包

在一次调用中回答关于文字、图片或视频的选择、是非、打分、框选和跟踪类问题，并为每个答案给出概率。适合构建路由或视觉检查的人。

d3-nano

vllm-sr · 工具包

在一次调用中回答关于文字、图片或视频的选择题、是非题和打分题，并为每个答案给出概率。适合做路由和分诊的工程师使用的 2B 决策模型。

d3-edge

vllm-sr · 工具包

在一次调用中回答关于文字、图片或视频的选择题、是非题和打分题，并为每个答案返回概率。适合做路由和分诊的工程师使用的小型决策模型。

SmolLM3-3B-GGUF

unsloth · 工具包

用 SmolLM3 聊天和推理，这是个完全开放的 3B 模型，可以一步步思考，也可以直接回答，提供 Unsloth 制作的 GGUF 文件，带聊天模板修复。能处理长文本和六种语言。

Qwen3.6-35B-A3B-NVFP4-Fast

unsloth · 工具包

在 NVIDIA 显卡上用 vLLM 运行 Unsloth 制作的快速 NVFP4 版 Qwen3.6 35B A3B。卡片说它的吞吐量是其他 NVFP4 版本的 1.79 倍，并且能放进 32 GB 显卡。

Qwen3.6-27B-GGUF

unsloth · 工具包

在本地处理智能体编码和图文任务，是 Unsloth 提供的 Qwen3.6-27B 的 GGUF 文件，支持思考保留和长上下文。适合运行本地编码智能体的开发者。

Qwen3.5-4B-MTP-GGUF

unsloth · 工具包

Unsloth 制作的带多 token 预测的 Qwen3.5-4B 的 GGUF 文件，让 llama.cpp 使用推测解码，生成速度约快 1.5 到 2 倍。适合在本地运行小型多模态模型的人。

Qwen3-30B-A3B-GGUF

unsloth · 工具包

unsloth 量化的 Qwen3-30B-A3B GGUF 文件，用于在 llama.cpp、Ollama 或 Open WebUI 里运行本地聊天和推理模型，思考模式可以逐轮开关。

Qwen3-14B-GGUF

unsloth · 工具包

把 Qwen3 14B 做成 GGUF 文件，可在你自己的电脑上运行。这个文本生成模型既能深入思考难题，也能快速作答。由 unsloth 打包，适合在本地运行模型的人。

Qwen2.5-Coder-7B-Instruct-GGUF

unsloth · 工具包

在你自己的电脑上编写、解释和修复代码，是 Unsloth 提供的 Qwen2.5-Coder 7B 指令模型的 GGUF 副本。适合想要本地编码助手的开发者。

Olmo-3-32B-Think-GGUF

unsloth · 工具包

把 32.2B 参数的推理模型 Olmo 3 32B Think 做成 GGUF 文件，可以在你自己的电脑上运行。由 unsloth 打包，适合想本地使用 Apache 2.0 模型的人。

Llama-3.2-3B-Instruct-GGUF

unsloth · 工具包

用 Meta 的紧凑模型 Llama 3.2 3B 指令版聊天、总结和回答问题，提供 Unsloth 制作的 GGUF 文件，从 2 位到 16 位。小到普通笔记本也能用。

gpt-oss-120b-GGUF

unsloth · 工具包

用 Unsloth 制作的 GGUF 文件运行 OpenAI 的开放权重模型 gpt-oss-120b，它有 117B 参数，其中 5.1B 处于激活状态，文件带有 Unsloth 的修复。面向推理、智能体任务和开发者使用。

gemma-3-27b-it-GGUF

unsloth · 工具包

用 Google 的 Gemma 3 27B 指令微调模型回答关于文本和图像的问题，提供 Unsloth 制作的 GGUF 文件，可在你自己的电脑上运行。支持 128K 词元上下文。

gemma-3-270m-it-GGUF

unsloth · 工具包

作为 268M 的指令微调 Gemma 3 模型，以 GGUF 格式根据提示词生成文本，小到可以在笔记本和台式机上运行。适合想要一个微型本地模型来运行或微调的开发者。

gemma-3-12b-it-GGUF

unsloth · 工具包

用 Google Gemma 3 12B 指令模型的 GGUF 文件回答问题、总结文本并读图，适合想在自己电脑上运行它的人。

ERNIE-4.5-21B-A3B-Thinking-GGUF

unsloth · 工具包

用每个词元只激活 3B 参数的 21B 混合专家模型处理逻辑、数学、科学和编程问题，提供 Unsloth 制作的 GGUF 文件。支持工具调用和 128K 上下文。

bge-small-en-v1.5-GGUF

unsloth · 工具包

把英文文本变成嵌入向量，用于搜索和检索，是一个 33.2M 参数的小型 GGUF 文件。适合在普通硬件上构建搜索或检索应用的开发者。

Clef-LoRA-for-Qwen3.8-27B-GGUF

trevest · 工具包

把 Cloudflare Clef 的决策头加到 Qwen3.8-27B 聊天模型上，让一台 24 GB GPU 上的 llama.cpp 服务器既能回答带类型的问题，也能聊天。它是 LoRA 适配器，不是独立模型。

Torchcast Decision 4B

torchcast-ai · 工具包

基于 Qwen3.5-4B 的 4B 决策模型，一次推理就返回是非概率、选项分布和分数分布，不生成文本。适合英文分类、路由和评分标准检查。

MAI-UI-8B

Tongyi-MAI · 工具包

读取截图和指令，决定在手机或电脑屏幕上点哪里、输入什么。它是 MAI-UI 图形界面智能体家族里的 8B 模型，面向构建设备智能体的开发者。

WARC

third-intelligence · 工具包

面向 ARC-AGI-3 游戏的 35M 参数世界模型，根据最近三帧和一个动作预测下一帧游戏画面，并在智能体玩游戏时持续自我训练。

Laya Vision

thaitea · 工具包

针对一张图像，以选项、是非概率或评分等级的形式一次性回答问题，还能根据屏幕像素玩简单的游戏，有 201M 参数。适合构建图像分诊的开发者。

Hy-Memory-30B-A3B

tencent · 工具包

为助手写长期记忆，在 Mem0、MemOS 或 Hy-Memory 里决定保留什么、怎样更新，约有 3B 激活参数。适合构建带记忆的 AI 智能体的开发者。

AuK

tencent · 工具包

腾讯的 1.5B 语音模型，可以根据文本生成语音、编辑录音，还能做音频增强和声源分离，全部通过自然语言指令完成。

F5-TTS

SWivid · 工具包

用 F5-TTS 流匹配模型把文字转成语音，提供 F5-TTS 和 E2 TTS 的基础检查点。适合在非商业许可下工作的开发者和研究人员。

Sweep Next-Edit 1.5B (GGUF)

sweepai · 工具包

根据当前打开的文件、最近的改动和当前状态预测你的下一处代码修改，以 1.5B 的 Q8_0 GGUF 模型在本地运行。适合想在自己笔记本上获得编辑自动补全的开发者。

Indic Tiny TTS: Hindi

sulabhkatiyar · 工具包

用女声或男声朗读天城文书写的印地语文字，小到可以在没有 GPU 的 CPU 上运行。适合给应用加入印地语语音的开发者。

MSST-WebUI

Sucial · 工具包

在浏览器页面里运行音乐音源分离模型，支持 UVR，带预设处理流程和额外工具。适合分离自己拥有的录音的制作人和音频研究人员。

System One Model

stephenlb · 工具包

基于 Gemma 4 12B 加一个小型决策头，针对一段文字回答是非题、选择题和评分题，并给出每个答案的概率。适合给应用加入快速分类的开发者。

Stable Diffusion v1-5

stable-diffusion-v1-5 · 工具包

这个 860M 参数的潜在扩散模型根据文字提示词生成图像，可用于 diffusers、ComfyUI 等工具。适合想用经典开源 Stable Diffusion 检查点的研究人员和开发者。

stable-diffusion-inpainting

stable-diffusion-v1-5 · 工具包

用带额外遮罩输入的 Stable Diffusion 根据文字生成写实图像，并填充图片中被遮罩的区域，可用于 diffusers 或 AUTOMATIC1111。适合设计师、编辑和开发者。

TripoSR

stabilityai · 工具包

一次前向计算就能从单张图片生成 3D 模型，由 Stability AI 和 Tripo AI 制作，适合想从图片快速得到 3D 的开发者、美术人员和研究人员。

spkrec-ecapa-voxceleb

speechbrain · 工具包

用 SpeechBrain 里的 ECAPA-TDNN 模型判断两段录音是否来自同一个说话人，也可以输出说话人嵌入。适合开发者和语音研究人员。

Spark-TTS-0.5B

SparkAudio · 工具包

用基于 Qwen2.5 的模型把文字念成中文和英文语音，支持零样本声音克隆，也能按性别、音高和语速创建虚拟声音。适合做语音的开发者和研究人员。

Mica v0.1 4B

sky7350 · 工具包

针对给定状态下的问题，为每个允许的答案给出概率，题型可以是是非、选择或评分，不生成文字。适合给智能体和应用加入快速判断的开发者。

Qwen3.8-27b-Terse-Coder-LoRA

Shockem · 工具包

缩短 Qwen3.8-27B 在编程任务上的推理长度，让答案更快出来，以一个小型 LoRA 适配器的形式提供。适合在自己硬件上运行基础模型的人。

Ornith-1.5-122B-NVFP4-DFlash2-RTX-Spark

Sherlock-Comms · 工具包

通过 vLLM 和 DFlash2 推测解码来运行 122B 的 Ornith 1.5 模型，输出头保持未量化。适合有 128 GB 内存的 RTX Spark 笔记本。

Qwen3-TTS GGUF

Serveurperso · 工具包

这个模型通过 C++ 运行时 qwentts.cpp，在 CPU、CUDA、Metal 或 Vulkan 上用多种语言朗读文本，有命名说话人和普通话方言，还能用一段短录音克隆声音。适合想在本地做文字转语音的开发者。

Sarvam-30B

sarvamai · 工具包

Sarvam AI 的混合专家语言模型，总参数 322 亿，每个词元激活 24 亿，面向英语和多种印度语言的实际使用。模型卡的示例代码需要 NVIDIA 显卡。

Sarvam-105B GGUF

sarvamai · 工具包

Sarvam-105B 的 GGUF 版本，一个重视印度语言的大型混合专家模型，按 4 位拆成 9 个分片，供 llama.cpp 使用。适合内存充足、想用大型开源模型的人。

sidon-v0.1

sarulab-speech · 工具包

sarulab-speech 在 facebook/w2v-bert-2.0 基础上发布的模型，文件可以下载。它的模型卡对用途介绍很少，适合想自己查看的人。

MAGI-2 Preview

sand-ai · 工具包

大型音视频生成模型，可根据文字提示词，或提示词加一张静态图，生成带声音的 10 秒视频，并提升到 1080p。适合拥有八块 Hopper GPU 服务器的研究者。

Qwen3-4B P9 Honeypot

samliumay · 工具包

一个用于 Qwen3-4B 的小型研究适配器，让模型充当诱饵。发现有人套取机密时，它会向本地收集器发出无声警报，然后给出编造的值。仅限实验室使用。

mini-Jev

samatv256 · 工具包

根据你给出的候选项，为每个候选返回一个概率，帮助智能体选择该用哪个工具或动作。这是一个早期检查点，适合测试工具选择的开发者。

MiMo-V2.6-Distill-Qwen-9B-GSQ-RCO-GGUF

sainez · 工具包

把一个 9B 的编程和工具调用模型做成一个 3.64 GiB 的 GGUF 文件，以约 3.5 比特每权重量化，方便在你自己的机器上运行。

Paradee-8M v1.0

sahilmahendrakar · 工具包

这个 8M 参数的模型从 Kokoro-82M 蒸馏而来，用单一声音朗读英文文本。int8 的 ONNX 文件约 9 MB，在 CPU 上就能运行。适合需要小而快、不用 GPU 的语音输出的开发者。

Unlimited-OCR-2-GGUF

RX5950XT · 工具包

Unlimited-OCR-2 文档 OCR 模型的 GGUF 文件，提供 BF16、Q8_0 和 Q4_K_M，并附视觉投影器。只能在应用了仓库补丁的 llama.cpp 里运行，适合在本地读取扫描和多页文档的人。

RuView

ruv · 工具包

一组小型模型，通过 ESP32 芯片读取 WiFi 信号变化，在没有摄像头的情况下估计姿态、动作和人员在场，并附带训练自己模型的脚本。适合在同意的对象身上做测试的创客和研究人员。

Juggernaut XI v11

RunDiffusion · 工具包

RunDiffusion 推出的文生图模型，属于 Juggernaut SDXL 系列，擅长照片风格图像，手部、面部和提示词遵循都有改进。适合用 ComfyUI、Forge 等工具的图像创作者。

Chatterbox-Nano

ResembleAI · 工具包

这个 110M 参数的模型在普通 CPU 上朗读英文文本，并能通过文本里的标签加入笑声和咳嗽声。适合需要快速设备端语音、内存和延迟预算都很紧的开发者。

Chatterbox-Flash

ResembleAI · 工具包

一个零样本英语文字转语音模型，能从简短参考片段复制声音，并按块低延迟流式输出音频。适合开发语音助手和旁白工具的开发者。

Flint INT4

RecursiveSI · 工具包

Recursive Flint 的 4-bit MLX 版本，约 22.6 GB，用于 Apple Silicon 本地运行，可通过 Rec 配合 pi 或 OpenCode 启动。适合想把 Flint 接入编程工具的 Mac 用户和开发者。

gemma-4-31B-it-scotoma-2

ReadyArt · 工具包

ReadyArt 的 31.3B 参数文本生成模型，基于 Google 的 gemma-4-31b-it，以 Safetensors 存放。页面没有说明用途，适合想研究 Gemma 4 变体的人。

Qwen3.8-27B-mixed-3.5bpw-MLX

rapid-mlx · 工具包

一个压缩到每个权重 3.5 位的 27B 视觉语言模型，适用于 24 GB 内存的 Apple Silicon Mac，通过 Rapid-MLX 在本地提供服务。适合想要本地模型和智能体后端的 Mac 用户和开发者。

Qwen3.8-27B-NVFP4

RadixArk · 工具包

Qwen3.8-27B 的预量化 NVFP4 版本，能读取文字、图片和视频并用文字回答，通过 SGLang 在 NVIDIA Blackwell 显卡上提供服务。适合在该硬件上运行智能体、聊天机器人和 RAG 的开发者。

Qwen3.5-122B-A10B

Qwen · 工具包

这个模型同时读图像和文字并用文字回答，是总参数 122B、激活参数 10B 的混合专家模型。适合有大型 GPU 服务器、想用开源视觉语言模型做推理、编程和智能体的团队。

Qwen3-8B-MLX-bf16

Qwen · 工具包

通过 mlx 库运行 Qwen3 8B 语言模型，用于聊天、推理、翻译和智能体任务。适合想在本地使用可切换思考模式的文本模型的开发者。

Qwen3-30B-A3B-GGUF

Qwen · 工具包

一个 30.5B 的混合专家聊天模型，GGUF 格式，每个词元只激活 3.3B 参数，可在 llama.cpp 或 ollama 里运行。有思考和普通两种模式，适合机器配置较高的开发者。

Qwen3-0.6B-GGUF

Qwen · 工具包

一个 0.6B 的小型 GGUF 聊天模型，可在 llama.cpp 或 ollama 里本地运行，并能在思考和普通回复之间切换。适合硬件一般的用户和测试本地模型的开发者。