开发者 AI 技能与智能体

Qwen3.8-27B-mixed-3.5bpw-MLX

rapid-mlx · 工具包

一个压缩到每个权重 3.5 位的 27B 视觉语言模型，适用于 24 GB 内存的 Apple Silicon Mac，通过 Rapid-MLX 在本地提供服务。适合想要本地模型和智能体后端的 Mac 用户和开发者。

Qwen3.5-122B-A10B

Qwen · 工具包

这个模型同时读图像和文字并用文字回答，是总参数 122B、激活参数 10B 的混合专家模型。适合有大型 GPU 服务器、想用开源视觉语言模型做推理、编程和智能体的团队。

Qwen3.8-27B-oQ4e-mtp

Jundot · 工具包

在 MLX 上以约 17.5 GB 运行 27B 的 Qwen3.8 视觉语言模型，能读取文字、图片和视频，上下文为 262,144 个 token。这是 Jundot 的混合精度量化版本，适合内存有限的人。

lift

datalab-to · 工具包

从 PDF 和图像中提取结构化数据。你提供一个 JSON 模式，它返回与之匹配的对象。这是 Datalab 的 9.7B 视觉语言模型，适合处理文档的开发者。

Qwen3.8-27B-Quark-AWQ-MXFP4

amd · 工具包

把 Qwen3.8-27B 运行为用 AMD Quark 和 AWQ 做出的更小的 MXFP4 量化版本，通过 vLLM 提供服务。适合想要压缩版 27B 视觉语言模型、并看重公开 GSM8K 分数的开发者。

Qwen3.5-35B-A3B-GGUF

unsloth · 工具包

在你自己的机器上读取文字和图片、编写代码并调用工具，使用 Unsloth 刷新后的 Qwen3.5 35B-A3B 视觉语言模型 GGUF 文件。适合运行本地智能体的开发者。

Molmo2-8B

allenai · 工具包

回答关于图片、视频以及多张图片的问题，还能指出它找到的东西。适合想要开源 8B 视觉语言模型来做视频问答、计数和描述的开发者。

Qwen3.5-0.8B-MTP-GGUF

unsloth · 工具包

在 llama.cpp 里运行小型的 Qwen3.5 0.8B 视觉语言模型，借助多 token 预测加快生成，使用 Unsloth 的 GGUF 文件。适合测试推测解码的开发者。

GameScaling

THUSI-Lab · 工具包

基于 Qwen3.5-0.8B 的小型视觉语言模型，来自一个面向多种虚拟游戏世界中具身智能体的持续预训练研究项目。适合研究游戏智能体的研究者。

Qwen2.5-VL-7B-Instruct

Qwen · 工具包

一个视觉语言模型，能把图片、文档和视频与文字问题一起理解并用文字回答。适合围绕图表、扫描件、屏幕和视频片段开发应用的开发者。

Xiaomi-OCR-0-GGUF

prithivMLmods · 工具包

提供 Xiaomi-OCR-0 的 GGUF 文件，这是一个用来读取文档和图片文字的 0.8B 紧凑视觉语言模型，大小从约 466 MB 到 1.52 GB。适合配合 llama.cpp 做本地 OCR。

MiniCPM-V-4.7-1B-gguf

openbmb · 工具包

通过 llama.cpp 运行 1B 视觉语言模型，回答关于图片的文字提示词。提供多种量化大小的 GGUF 文件，适合想要小型本地模型的开发者和爱好者。

Qwen3.6-35B-A3B-8bit (MLX)

mlx-community · 工具包

Qwen3.6-35B-A3B 的 8 位 MLX 转换版，能读文字和图像并用文字回答，用 mlx-vlm 工具运行。适合想在本地运行大型视觉语言模型的开发者。

V-JEPA 2

facebook · 工具包

把视频和图片转成嵌入向量，用于视频分类、检索，或作为视觉语言模型的视频编码器。由 Meta 的 FAIR 打造，适合处理视频的开发者和研究人员。

Kvark-Sparkle-1.0-27B-GGUF

Egzakta · 工具包

KVARK Sparkle 1.0 这个 27B 视觉语言模型的 GGUF 文件，适用于 llama.cpp、Ollama 和 LM Studio，保留了推测解码头。适合在本地运行大模型的人。

Qwen3.8-27B-AWQ-INT4

cyankiwi · 工具包

cyankiwi 制作的 Qwen3.8-27B 4-bit AWQ 量化版本，一个带思考控制的 27B 视觉语言模型。权重为 21.02 GB，可在 Transformers、vLLM 或 SGLang 中加载。

Molmo2-4B

allenai · 工具包

回答关于图片、视频和多张图片的问题，还能指出它找到的内容。这是 Ai2 的开源视觉语言模型，适合自己运行模型的开发者和研究者。

Qwen3.5-4B-Base

Qwen · 工具包

这是一个只做过预训练的视觉语言基础模型，用于微调和上下文学习实验，不用于直接聊天。适合想用小型 Qwen3.5 作起点并用 LoRA 适配的开发者。

MiniCPM-V 4.6

openbmb · 工具包

能读懂单张图片、多张图片和视频并用文字回答，参数量 1.3B，适合在手机和其他边缘设备上运行。适合想要小型视觉语言模型的开发者。

Qwen3.8-27B-GGUF

bartowski · 工具包

bartowski 制作的 Qwen3.8-27B 的一组 GGUF 量化版本，从 Q8_0 到 3-bit，用重要性矩阵生成。适合在本地用 llama.cpp 运行 27B 视觉语言模型的人。