AREX-2 GGUF
mradermacher · 工具包
BAAI 的 AREX-2(26.9B)的 GGUF 量化文件,从 2 位到 8 位,另有可选的多模态补充文件。适合在本地运行大模型、想挑一个放得进自己内存的尺寸的人。
mradermacher · 工具包
BAAI 的 AREX-2(26.9B)的 GGUF 量化文件,从 2 位到 8 位,另有可选的多模态补充文件。适合在本地运行大模型、想挑一个放得进自己内存的尺寸的人。
MongoDB · 工具包
来自 Voyage 4 系列、3.46 亿参数的多语言文本嵌入模型,用于语义搜索和检索,向量大小可调。适合构建搜索和 RAG 系统的开发者。
microsoft · 工具包
Microsoft 推出的小型视觉模型,通过更换文字提示词来做图像描述、目标检测和分割。适合需要用一个模型完成多种图像任务的开发者和研究者。
meituan-longcat · 工具包
用一个 13.6B 的模型,根据文字提示、一张静态图片,或接着已有片段往下写来生成视频。目标是 720p、每秒 30 帧的长片段,适合有 GPU 的开发者和研究人员。
m-a-p · 工具包
一个音乐编码器,把 30 到 360 秒的整首歌转成帧级或整段级的数值特征。适合处理冻结嵌入的音乐 AI 研究者和开发者。
kyutai · 工具包
Kyutai 推出的神经音频编解码器,把语音压缩成紧凑的音频令牌,再解码还原。适合构建语音语言模型或文字转语音系统的研究者和开发者。
jmc0 · 工具包
驱动能对话、能在游戏中执行动作(比如出售物品或叫来守卫)、并在压力下保持角色设定的游戏角色。适合使用 llama.cpp 或 LLMUnity 的游戏开发者。
ibm-granite · 工具包
把七种语言的语音转成带标点和大小写的文字。这是 IBM Granite 推出的 4.7 亿参数小模型,适合在服务器、笔记本和手机上做快速转写。
ibm-granite · 工具包
把六种语言的语音转成文字,并在英语与其他语言之间翻译语音,支持关键词偏置和语言提示。这是 IBM 面向企业音频的紧凑 2B 语音语言模型。
ibm-granite · 工具包
先分步骤思考再作答,适合数学、代码、工具调用和多语言对话。这是 IBM 最大的稠密 Granite 4.2 模型,采用 Apache 2.0 许可,适合在自己硬件上运行开源模型的团队。
HuggingFaceTB · 工具包
用一个 1.35 亿参数、小到能在设备上运行的指令微调模型回答聊天式问题,也能做改写和摘要。适合需要在 Python 或 JavaScript 中使用微型聊天模型的开发者。
HuggingFaceTB · 工具包
聊天、改写和总结文本,还能调用函数,是一个小到可以在设备上运行的 1.7B 紧凑模型。这是 HuggingFaceTB 经过指令微调的 SmolLM2,适合想要小型英文模型的开发者。
gnani · 工具包
用英语和十种印度语言聊天、答题和推理,上下文长度 128K。这是 Gnani.ai 的 30B 混合专家模型,适合用印度语言构建助手、RAG 和智能体的团队。
gevaertlab · 工具包
根据文字或图像,一次性为医学问题的各个答案选项打分,不生成文字。这是斯坦福 Gevaert 实验室的研究模型,不是医疗器械。
flechin · 工具包
一个 27B 推理模型,经过微调后倾向于直接回答而不是含糊其辞,并量化为 MXFP4,让 vLLM 能在单块 32 GB GPU 上提供服务,适合运行本地推理和工具调用模型的开发者。
dmis-lab · 工具包
预测英文文本中被遮盖的词,并提供一个上下文长度 32K 的预训练编码器,可微调用于分类或检索。这是 dmis-lab 的填空模型,适合机器学习工程师和研究人员。
datalab-to · 工具包
读取图片和 PDF 中的文字,返回保留页面布局的 markdown、HTML 或 JSON。能处理手写、表单、表格和数学公式,支持 90 多种语言,适合做文档数字化的人。
cloudraker · 工具包
把文档页面图片解析成文字、表格和图表,并保留 markdown 格式。这是 1.2B 参数的模型,图表提取更好,适合构建文档流水线的开发者。
byteshape · 工具包
Qwen3.6-35B-A3B 的量化 GGUF 版本,能读图片和文字,有从约 9 GB 起的 CPU 和 GPU 变体,用 ByteShape 的 ShapeLearn 制作。适合运行 llama.cpp 的开发者。
black-forest-labs · 工具包
一个 9B 模型,把简短的图像请求、最多 10 张参考图和可选的边界框,变成一条给 FLUX 3 Image Klein 用的详细提示词。适用于编辑、文生图和布局工作。
Aleph-Alpha · 工具包
用德语和英语推理并调用工具,上下文窗口超过一百万 token。这是 Aleph Alpha 推出的开放 78B 混合专家模型,每个 token 只激活 3.46B 参数。
XHToken · 工具包
一个 4.1B 的语言模型,面向设备端使用,针对编码、智能体任务、长上下文和推理做了调优,支持英文和中文,并有三档思考级别。适合本地运行模型的开发者。
unsloth · 工具包
unsloth 制作的 Qwen3.5-2B 小型 GGUF 版本,能读图片和文字并用文字回答。适合在本地做原型、微调和研究。
sensenova · 工具包
图像生成和编辑模型,连续多次编辑时更稳定,基于 SenseNova-U1.5-8B-MoT,加载步骤相同。适合反复编辑同一张图的设计师和研究者。
Remek · 工具包
针对一条消息、文档或智能体轨迹的类型化问题,一次计算就给出每个允许答案的校准概率,不生成文字。这是面向波兰语和英语决策的实验性 31B 模型。
google-bert · 工具包
补全被遮蔽的英语词并提取文本特征。这是 Google 的不区分大小写的 BERT 基础模型,用于微调后做分类、标注和问答。
convaiinnovations · 工具包
读取邮件、工单等 100 多种语言的文字,一次计算就用带概率的类型化答案回答问题。322M 模型,不生成文字,适合给多语言消息分流的团队。
akhilaaa3 · 工具包
针对文字、图像、音频或视频提出的问题,对你列出的每个选项给出概率,而不是写一段解释。这是基于 Gemma 4 的 12B 分类器,适合需要带分数决策的开发者。
XiaomiMiMo · 工具包
在同一个模型里处理文本、图像、视频和音频输入,上下文长达 1M token,适合长代码库和智能体运行。这是 XiaomiMiMo 推出的 311B 开放混合专家模型。
oruk · 工具包
把英文语音转成文字。它是用词错误率做强化学习后训练的 Qwen3-ASR-1.7B,适合需要英文转写的开发者和语音研究者。
nomic-ai · 工具包
把英文文本转成嵌入向量,用于搜索、聚类和分类,向量还可以截短。适合做检索应用的开发者。
kuark · 工具包
运行一个捆绑了 CLIP 和 taming-transformers 项目的 Gradio 应用,指向图像方面的工作。说明里没有写它生成什么,所以适合想读代码的开发者。
keras-io · 工具包
你可以在 Gradio 页面里试用一个给时间序列分类的 Transformer 模型,里面带有两个示例 CSV 文件。适合处理序列数据的学生和开发者。
keras-io · 工具包
你可以在 Gradio 页面里试用 keras-io 的 Swin Transformer 图像模型,里面带有示例图片。适合想看视觉 Transformer 实际运行的学生和开发者。
Qwen · 工具包
读取文本和图像并输出文本,是 Qwen3.6-35B-A3B 的 FP8 版本,激活参数 3B。适合运行编程智能体、又想比全精度下载更小的开发者。
Qwen · 工具包
Qwen 的 27B 模型,读取文字和图片并用文字回复,针对编程智能体和仓库级工作调校,适合用 transformers 库运行它的开发者。
Qwen · 工具包
把 100 多种语言的文字和代码变成向量,用于搜索、检索、分类和聚类,向量大小可调,还支持任务指令,适合构建搜索和 RAG 系统的开发者。
Qwen · 工具包
作为编程智能体模型使用,总参数 80B、激活参数 3B,上下文 256K。适合在 CLI 和 IDE 工具里运行智能体、并想自己托管模型的开发者。
Qwen · 工具包
用 4B 模型回答对话提示,不显示思考过程,可读取最多 256K token 的上下文。适合想要小型开源助手来做推理、编程和工具调用的开发者。
Qwen · 工具包
编写、解释和修复代码,是 Qwen2.5-Coder 系列里 7B 的指令微调成员。适合想要一个单张消费级 GPU 就能跑的开源编程模型的开发者。
Qwen · 工具包
Qwen 的 1.5B 小型对话模型,能遵循指令、写代码和数学、输出 JSON 等结构化内容,支持超过 29 种语言。适合需要轻量模型的开发者。
PCL-RSI-lab · 工具包
用一个会自我改进的编程智能体修复软件 bug,它从自己成功的运行中学习可复用的推理模式,适合做仓库级 bug 修复的开发者和研究人员。
NousResearch · 工具包
Nous Research 的 14B 混合推理模型,基于 Qwen3-14B。它可以逐步思考、调用工具,并返回符合模式的 JSON。使用 ChatML 提示格式。
NousResearch · 工具包
Nous Research 基于 Llama 3.1 的 8B 通用对话模型,支持函数调用、结构化输出、角色扮演和代码辅助。适合想要一个可以自己运行、可引导的开放助手的开发者。
nightmedia · 工具包
nightmedia 制作的实验性 9.4B 图文模型,由三个 9B 模型合并而成,面向推理和理科问题。适合喜欢尝试小型开放合并模型的爱好者和研究者。
mradermacher · 工具包
BAAI/AREX-2(一个 26.9B 的视觉模型)的加权 GGUF 量化版本,约有两打尺寸,从 7.2 GB 到 22.2 GB,另有一个用来制作你自己量化版本的 imatrix 文件。由 mradermacher 制作。
microsoft · 工具包
把多种语言的文字变成数字向量,用于搜索、聚类和相似度匹配,是微软的 0.6B 嵌入模型,适合构建检索和排序工具的开发者。
MemTensor · 工具包
自带固定大小记忆状态的语言模型,基于 Qwen3.6-35B-A3B,无需重读就能保留过去的上下文。适合研究模型和智能体记忆的研究人员和开发者。
inclusionAI · 工具包
包含两个 9B 模型,用于实时对话,能边听边说,处理打断,并把任务交给外部工具。一个能看视频和听音频,另一个只处理音频。
inclusionAI · 工具包
接收音频和文字指令,返回文字,或带合成语音的文字。涵盖中英文的语音识别、语音问答和音频推理。适合拥有大型 GPU 的开发者。
HemmingwayAI · 工具包
把日常消息和邮件写成一条可以直接发送的文字,而不是一堆选项。基于 Qwen3.8-27B 的 27B 模型,非商业使用免费,适合想要听起来像真人写作的人。
google · 工具包
读取文字和图片并输出文字,适合想在自己的 GPU 或工作站上,用 Google DeepMind 开放权重模型做编程、推理和图片提问的开发者。
fastino · 工具包
对英文文本按你在调用时传入的任意标签集进行分类,比如意图、路由、情感或紧急程度,一次完成,不需要提示词模板。这是 Fastino 推出的面向运营决策的小型专用模型。
dglhf · 工具包
帮助完成智能体式编码,包含两个在 PostgreSQL 引擎任务上训练的模型。Slonik-27B 和 Slonik-9B 来自 Postgres Professional,适合从事数据库代码和编码智能体的开发者。
baselabs · 工具包
用一个 2B 模型,针对文本或图片回答是非题、选择题和打分题,并返回校准过的概率。适合需要自动分流、分诊或分类请求的团队。
bartowski · 工具包
bartowski 用重要性矩阵为 Jackrong 的 Qwopus3.8-27B-Coder-Flash 制作的 GGUF 量化版本,大小从 17 GB 到 55 GB。适合在本地用 llama.cpp 运行 27B 模型。
Asteromorph · 工具包
为每份文档与搜索查询的相关度打分,可附带上下文,用来重新排序搜索结果。这是基于 Qwen3.5 构建的 4B 开放权重重排序模型,适合科学和通用搜索。
AbdelrhmanX2 · 工具包
把埃及阿拉伯语语音转成文字,针对课堂讲座调优,也能处理日常对话和阿拉伯语与英语混用。适合转录埃及讲座或录音的人。
8BitStudio · 工具包
一个 95.6M 参数的英文聊天模型,在单块 RTX 5060 Ti 上从零训练,小到可以在 CPU 上运行。适合想试玩小型本地语言模型的人。
XingChen-AGI · 工具包
用于生成文本,处理规划和调用工具等多步骤任务,支持中英文和 256K 上下文。这是一个混合专家模型,适合自行部署运行的开发者。
vllm-sr · 工具包
一个 9B 模型,一次调用就能回答关于文字、图像或视频的多个选择、是非和打分问题,并为每个答案返回概率而不是生成文字。适合路由和决策任务。
vllm-sr · 工具包
用一次调用回答关于文字、图像或视频的选择、是非和打分问题,为每个答案返回概率而不是文字。这是 27B 的决策模型,适合做路由和分流的开发者。
unsloth · 工具包
Qwen3.5 9B 的 GGUF 版本,支持在 llama.cpp 里用多词元预测做推测解码,生成更快。适合会自己构建 llama.cpp、想在本地运行这个模型的人。
unsloth · 工具包
unsloth 制作的 Qwen3.5-0.8B 小型 GGUF 版本,能读图片和文字并用文字回答。适合在本地做原型、微调和研究。
unsloth · 工具包
在你自己的电脑上运行 OpenAI 开放权重的 gpt-oss-20b 推理模型,由 unsloth 打包成 GGUF 文件。适合想要本地模型、并能调节推理强度的开发者。
tcmofashi · 工具包
在中文 QQ 群聊里扮演一个角色:读取聊天记录,写出一句简短随意的回复,不显示推理过程。这是 Qwen3.5-9B 的合并 9B 微调模型,也能读取聊天里的图片。
Qwen · 工具包
能读图像和文字的多模态聊天模型,总参数 35B,每次只启用其中 3B。适合用 Transformers、vLLM 等自己部署大模型的开发者。
Qwen · 工具包
读取文字和图片并写出文字,是带视觉编码器的 27B Qwen 模型,原生上下文为 262,144 个词元。适合在服务器级硬件上构建助手和智能体的开发者。
Qwen · 工具包
为每个段落回答查询的程度打分,把最好的段落排在搜索和检索系统的前面。这是覆盖 100 多种语言的 0.6B 文本重排模型,适合搭建搜索的开发者。
Qwen · 工具包
提供 Qwen3-0.6B-Base,这是 Qwen3 系列里小型的预训练基础模型,用 119 种语言训练,上下文 32k。适合要微调或研究微型语言模型的开发者。
osunlp · 工具包
osunlp 推出的开放 1.2B 基础语言模型,是带注意力残差的循环 Transformer,附带一次 500B token 训练的检查点。适用于文本补全和进一步训练。
openbmb · 工具包
给文字、公式或表格区域的 OCR 结果打 0 到 1 的分,表示结果正确的可能性。适合自动接受可靠结果、把其余的送去复核或在多个 OCR 模型间择优的团队。
mistralai · 工具包
Mistral AI 的 7.2B 开源聊天模型,能遵循指令,还能调用你描述的函数。它由 Mistral-7B-v0.3 微调而来,可用 mistral_inference 或 transformers 运行。
microsoft · 工具包
Microsoft 推出的图像和视频多模态模型,像视频编码器存储视频那样读取视频,只保留变化的图块。适合做视频理解和流式处理的开发者和研究者。
JuneoAI · 工具包
判断 AI 智能体该采取哪个行动、谁该负责任务、谁能看到什么,这是一个能在你自己硬件上运行的 4B 模型,组织数据不出门。
JetBrains · 工具包
12B 混合专家思考模型,激活参数 2.5B,在真实代码仓库中用强化学习训练,面向编程智能体、数学和困难推理。由 JetBrains 打造,上下文 131,072 token。
IFM · 工具包
用 512K token 的上下文窗口写文字、代码和推理回答,适合想要训练数据、代码和检查点全部公开的开放稠密模型的开发者和研究人员。
ibm-granite · 工具包
逐步推理、写代码、调用工具,并用多种语言聊天,上下文最长 128K token,可扩展到 512K。这是 IBM 的稠密 8B 模型,适合构建智能体和助手的开发者。
HuggingFaceTB · 工具包
作为小型 3B 开放模型来写作和回答问题,支持可切换的逐步思考、工具调用和长上下文,适合想在自己电脑上用紧凑模型的开发者。
higa2515 · 工具包
在 Qwen3.8-27B 上加了学习型稀疏注意力索引器的 BF16 源权重,附带参考用的 Transformers 加载器,适合研究或部署 Qwen Sparse Attention 的人。
google · 工具包
以 4-bit GGUF 文件运行 Google 的 Gemma 4 12B 指令微调模型,使用量化感知训练制作。能读取文本和图片,适合笔记本和消费级显卡。
google · 工具包
接收文字、图片和音频并输出文字回答,是 Google DeepMind 的 12B 指令微调模型,上下文 256K 词元,思考模式可配置。适合在本地运行开放模型的开发者。
FirstPrinciplesLabs · 工具包
FirstPrinciples 从 Qwen3.5-9B 微调出的 9B 物理、科学和数学推理模型。适合想要分步推导和第二意见,并希望在本地或离线使用的研究者。
DRUPEs · 工具包
基于 MiniCPM5-2B 的 2B 编程和聊天模型,在需要多个功能合在一个组件里的网页应用上进步很大。适合想要本地小型代码模型的开发者。
bytkim · 工具包
为 Pi 智能体框架调优的 27B 编程模型,训练它读取代码仓库、编辑文件、运行工具并利用工具的反馈,推理强度可调。适合运行编程智能体的开发者。
beipo-ai · 工具包
读取截图和请求,然后规划并发出操作桌面或浏览器的动作。这是基于 Qwen3.5 的 35B 混合专家计算机操作模型,激活参数 3B。
z-lab · 工具包
一个草稿模型,通过提出一整块词元让主模型检查,来加快 Qwen3.8-27B 的生成。不能单独使用。适合用 SGLang 或 vLLM 部署 Qwen3.8-27B 的人。
XHToken · 工具包
用面向本地设备的紧凑 1.7B 模型生成文本,有三档可调的思考等级。适合想在本地硬件上获得编程、智能体和长上下文帮助的开发者。
vllm-sr · 工具包
对同一份文本、图片或视频输入一次回答多个问题,为每个答案给出概率,不生成文字。这是 vLLM Semantic Router 推出的 27B 多模态决策模型。
vllm-sr · 工具包
一次调用就能回答关于文本、图片和视频的选择题、是非题和打分题,并为每个答案返回概率,而不是生成文字。适合需要给请求分流或分类的开发者。
unsloth · 工具包
Unsloth 制作的 Qwen2.5-VL-7B-Instruct 的 GGUF 文件,这个视觉语言模型能读图像、图表、文档和长视频,还能输出坐标和结构化数据。适合在本地运行它的人。
typhoon-ai · 工具包
用 0.8B 参数把泰语和英语文档页面解析成按顺序排列的版面元素,带类别、边框和文字。适合要把泰语文件数字化的开发者。
TinyLlama · 工具包
以小型 1.1B 语言模型的身份用纯文本聊天,运行时占用内存很少。适合想要基于 Llama 风格基础模型的紧凑聊天模型的开发者和研究人员。
tencent · 工具包
腾讯推出的 1.8B 模型,可在 33 种语言之间翻译,并能遵循翻译指令。适合想自己运行小型翻译模型的开发者和团队。
sensenova · 工具包
用 27B 模型生成并渲染可执行代码来制作短视频,该模型由 Qwen3.8-27B 微调而来。适合想根据提示词出视频草稿的动效设计师、教师和营销人员。
Qwen · 工具包
Qwen 的小型 2B 模型,读取文字和图片并用文字回复,适合用 transformers 库做原型、微调或研究的开发者。
OpenMOSS-Team · 工具包
一次性把多位说话人的长录音变成带时间戳、带匿名说话人标签的转写稿,适合在 50 多种语言里转写会议、通话、播客和访谈的团队。
NousResearch · 工具包
这是一个推理型对话模型,可以一步步思考,也可以快速作答,还能返回符合你所给模式的 JSON。适合自己部署语言模型的人。
MineAITechnology · 工具包
MineAI Technology 推出的 355M 参数英文小型聊天模型,遵循简单的 User 和 Assistant 格式。这是研究级模型,回答能干净收尾、会写简短代码,但没有增加知识。
meituan-longcat · 工具包
把文字、图像和音频作为离散 token 统一处理的原生多模态模型,参数 74.3B。适合构建能看、能听、能生成内容的应用的研究人员和开发者。