Maximizing Model Performance 指南
DavidAU · 工具包
指导你为本地语言模型调节采样器和参数,并给出在 LM Studio、SillyTavern、Ollama 和 Koboldcpp 里设置系统提示词、推理模型和专家数量的步骤。
DavidAU · 工具包
指导你为本地语言模型调节采样器和参数,并给出在 LM Studio、SillyTavern、Ollama 和 Koboldcpp 里设置系统提示词、推理模型和专家数量的步骤。
cyankiwi · 工具包
cyankiwi 制作的 Qwen3.8-27B 4-bit AWQ 量化版本,一个带思考控制的 27B 视觉语言模型。权重为 21.02 GB,可在 Transformers、vLLM 或 SGLang 中加载。
CobuildX-AI · 工具包
在印度语言和印度英语文本中找出姓名、电话号码、Aadhaar 和 PAN 等个人信息,并返回每个值的位置。这是一个 16.7M 参数、能在 CPU 上运行的模型。
bartowski · 工具包
Meta Llama 3.1 8B Instruct 的量化 GGUF 文件,用于本地聊天,例如 Q4_K_M 为 4.92 GB,Q8_0 为 8.54 GB。由 bartowski 用重要性矩阵制作。涵盖 8 种语言,可在 LM Studio 中运行。
allenai · 工具包
回答关于图片、视频和多张图片的问题,还能指出它找到的内容。这是 Ai2 的开源视觉语言模型,适合自己运行模型的开发者和研究者。
Zyphra · 工具包
把文字转成 30 多种语言的自然语音,能根据样本克隆声音,采用混合专家模型以实现低延迟。可以在带 NVIDIA GPU 的 Linux 机器上本地运行。
zerofata · 工具包
提供一个 31.3B 参数的语言模型,基于 ReadyArt 的 gemma-4-31B-it-scotoma-2,适合在自己硬件上运行模型的人。这里的模型卡文字没有说明它的用途。
typhoon-ai · 工具包
把泰语文本切分成语素,也就是仍有意义的最小单位,使用只有 4 MB、能在 CPU 上运行的模型,适合泰语语言研究者和开发者。
tencent · 工具包
腾讯推出的 30B 混合专家翻译模型,支持 33 种语言互译,并能遵循翻译指令。适合要在自己 GPU 上做大批量机器翻译的团队。
Qwen · 工具包
这是一个只做过预训练的视觉语言基础模型,用于微调和上下文学习实验,不用于直接聊天。适合想用小型 Qwen3.5 作起点并用 LoRA 适配的开发者。
Qwen · 工具包
这是一个 14.8B 参数的开源模型,难题用思考模式推理,日常聊天用更快的非思考模式回答。适合想用一个模型处理逻辑、代码、智能体和 100 多种语言的开发者。
PaddlePaddle · 工具包
读取文档图像并返回其中的文字,是参数不到十亿的视觉语言模型。适合在自己的机器上用 PaddleOCR 解析中英文文档的人。
ornith-ai · 工具包
处理编程和终端任务,是一个适合单张 GPU 的 9B 稠密语言模型。适合想用小型开源模型做软件开发的开发者,另有面向手机的移动版本。
openbmb · 工具包
能读懂单张图片、多张图片和视频并用文字回答,参数量 1.3B,适合在手机和其他边缘设备上运行。适合想要小型视觉语言模型的开发者。
nohurry · 工具包
分享 SillyTavern 的角色扮演预设,主要是 Voyage 系列,另有一个通用的 Eval 预设。适合用本地或云端语言模型玩故事聊天的人。
MineAITechnology · 工具包
一个用 JAX 和 Flax 从零训练的 124M 参数 GPT-2 风格语言模型,附带可在 CPU 上使用的 ONNX 文件。适合研究小模型训练的学生和研究者。
kyutai · 工具包
Kyutai 推出的神经音频编解码器,把语音压缩成紧凑的音频令牌,再解码还原。适合构建语音语言模型或文字转语音系统的研究者和开发者。
IndexTeam · 工具包
在 150 种语言之间翻译文本,并遵循关于术语表、格式、语气和长度的指令。这是 IndexTeam 的紧凑 2.3B 模型,适合在本地翻译的团队,还能通过配套文件翻译图片。
ibm-granite · 工具包
把七种语言的语音转成带标点和大小写的文字。这是 IBM Granite 推出的 4.7 亿参数小模型,适合在服务器、笔记本和手机上做快速转写。
ibm-granite · 工具包
把六种语言的语音转成文字,并在英语与其他语言之间翻译语音,支持关键词偏置和语言提示。这是 IBM 面向企业音频的紧凑 2B 语音语言模型。
handy-computer · 工具包
离线转写 25 种欧洲语言的录音,使用 Moondream 的 parakeet-ultra 的 GGUF 版本,配合 transcribe.cpp。适合想要带标点、可选的 token 时间戳的本地语音转文字的人。
gnani · 工具包
用英语和十种印度语言聊天、答题和推理,上下文长度 128K。这是 Gnani.ai 的 30B 混合专家模型,适合用印度语言构建助手、RAG 和智能体的团队。
FireRedTeam · 工具包
识别音频片段里说的是哪种语言,覆盖 100 多种语言和 20 多种中文方言和口音。它是 FireRedASR2S 的语种识别模块,面向语音开发者。
FermionResearch · 工具包
用一个 156.2 MB、不需要显卡的模型转写 25 种语言的语音。这是 FermionResearch 的开源模型,适合 Apple silicon 的 Mac 以及普通的 Linux 或 Windows 电脑。
datalab-to · 工具包
读取图片和 PDF 中的文字,返回保留页面布局的 markdown、HTML 或 JSON。能处理手写、表单、表格和数学公式,支持 90 多种语言,适合做文档数字化的人。
CobuildX-AI · 工具包
在印度语言和印度英语文本中找出姓名、电话号码、Aadhaar 和 PAN 等个人信息,并返回每个值的位置。这是三种规格中最准确的一个,有 57.6M 参数。
BlinkDL · 工具包
纯 RNN 的文本生成基础模型,用于聊天、推理和工具调用,可作为后训练和微调的起点。支持八种语言,适合开发者和研究人员。
AfriSpeech · 工具包
用 92 种非洲语言和英语朗读文字,在 CPU 上比实时更快,还能用一小段音频克隆声音。适合需要非洲语言语音的开发者和研究人员。
XHToken · 工具包
一个 4.1B 的语言模型,面向设备端使用,针对编码、智能体任务、长上下文和推理做了调优,支持英文和中文,并有三档思考级别。适合本地运行模型的开发者。
Systran · 工具包
把音频文件里的语音转成带时间戳的文字,是为 CTranslate2 和 faster-whisper 转换的 OpenAI Whisper large-v3。适合在自己机器上转写多语言录音的开发者。
convaiinnovations · 工具包
读取邮件、工单等 100 多种语言的文字,一次计算就用带概率的类型化答案回答问题。322M 模型,不生成文字,适合给多语言消息分流的团队。
Sultannn · 工具包
一个 Gradio 应用,用覆盖 45 种语言的 csebuetnlp mT5 multilingual XLSum 模型做文本摘要。适合想在浏览器里体验多语言摘要的人。
Sultannn · 工具包
一个 Gradio 应用,用覆盖 50 种语言的 Facebook mBART large 50 模型做文本摘要。适合想在浏览器里体验多语言摘要的人。
Salesforce · 工具包
在 Gradio 页面里运行 Salesforce 的 BLIP 视觉与语言模型,仓库里有图像描述、检索和问答的训练脚本。适合处理图像和文字的研究者和开发者。
PaddlePaddle · 工具包
在 Gradio 页面里用 PaddleOCR 读出图片里多种语言的文字,带有中文、英文和日文示例图片。适合需要从照片或扫描件里取出文字的人。
MahsaShahidi · 工具包
在 Gradio 页面里用一个视觉模型和一个波斯语语言模型给图片写波斯语说明,里面带有三张示例图片。适合处理波斯语文本的学生和开发者。
iamkb · 工具包
在 Gradio 页面里用几个所列的零样本模型,不经训练就把跨语言文本归入你选的标签,适合分析师、研究人员和 NLP 开发者。
hussain-shk · 工具包
在 Gradio 页面里把英语文本翻译成印度语系语言,由推理代码、API 文件夹和一个恢复标点的模型构成,适合写作者、学生和开发者。
Qwen · 工具包
把 100 多种语言的文字和代码变成向量,用于搜索、检索、分类和聚类,向量大小可调,还支持任务指令,适合构建搜索和 RAG 系统的开发者。
Qwen · 工具包
Qwen 的 1.5B 小型对话模型,能遵循指令、写代码和数学、输出 JSON 等结构化内容,支持超过 29 种语言。适合需要轻量模型的开发者。
microsoft · 工具包
把多种语言的文字变成数字向量,用于搜索、聚类和相似度匹配,是微软的 0.6B 嵌入模型,适合构建检索和排序工具的开发者。
MemTensor · 工具包
自带固定大小记忆状态的语言模型,基于 Qwen3.6-35B-A3B,无需重读就能保留过去的上下文。适合研究模型和智能体记忆的研究人员和开发者。
bartowski · 工具包
bartowski 制作的 Qwen3.8-27B 的一组 GGUF 量化版本,从 Q8_0 到 3-bit,用重要性矩阵生成。适合在本地用 llama.cpp 运行 27B 视觉语言模型的人。
8BitStudio · 工具包
一个 95.6M 参数的英文聊天模型,在单块 RTX 5060 Ti 上从零训练,小到可以在 CPU 上运行。适合想试玩小型本地语言模型的人。
Supertone · 工具包
把文字转成 31 种语言的语音,通过 ONNX Runtime 在你自己的设备上运行,无需调用云端。适合想要本地快速语音输出并使用预设声音的开发者。
Qwen · 工具包
为每个段落回答查询的程度打分,把最好的段落排在搜索和检索系统的前面。这是覆盖 100 多种语言的 0.6B 文本重排模型,适合搭建搜索的开发者。
Qwen · 工具包
提供 Qwen3-0.6B-Base,这是 Qwen3 系列里小型的预训练基础模型,用 119 种语言训练,上下文 32k。适合要微调或研究微型语言模型的开发者。
osunlp · 工具包
osunlp 推出的开放 1.2B 基础语言模型,是带注意力残差的循环 Transformer,附带一次 500B token 训练的检查点。适用于文本补全和进一步训练。
Oomni · 工具包
用 10 种声音朗读 11 种印度语言(含英语)的文本,模型只有 199 MB,可在 GPU 或普通 CPU 上运行。适合需要小型免费语音合成的开发者。
mlx-community · 工具包
Qwen3.8-27B 的 4 位 MLX 转换版,能读文字和图像并用文字回答,用 mlx-vlm 工具运行。适合想在本地运行视觉语言模型的开发者。
ibm-granite · 工具包
逐步推理、写代码、调用工具,并用多种语言聊天,上下文最长 128K token,可扩展到 512K。这是 IBM 的稠密 8B 模型,适合构建智能体和助手的开发者。
ErtasAI · 工具包
压缩到 22 GB 的开放权重医学语言模型,最擅长临床计算和从长病历中提取事实。适合在 NVIDIA Blackwell GPU 上构建医疗 AI 产品的团队。
digi-the-robot · 工具包
一个只有 15.7M 参数的小型语言模型,扮演一只野生乌鸦,用心情、动作和乌鸦叫声回答,还会记住你怎么对他。适合爱折腾的人,以及想和一个小角色模型聊天的人。
unsloth · 工具包
Unsloth 制作的 Qwen2.5-VL-7B-Instruct 的 GGUF 文件,这个视觉语言模型能读图像、图表、文档和长视频,还能输出坐标和结构化数据。适合在本地运行它的人。
TinyLlama · 工具包
以小型 1.1B 语言模型的身份用纯文本聊天,运行时占用内存很少。适合想要基于 Llama 风格基础模型的紧凑聊天模型的开发者和研究人员。
tencent · 工具包
腾讯推出的 1.8B 模型,可在 33 种语言之间翻译,并能遵循翻译指令。适合想自己运行小型翻译模型的开发者和团队。
OpenMOSS-Team · 工具包
一次性把多位说话人的长录音变成带时间戳、带匿名说话人标签的转写稿,适合在 50 多种语言里转写会议、通话、播客和访谈的团队。
NousResearch · 工具包
这是一个推理型对话模型,可以一步步思考,也可以快速作答,还能返回符合你所给模式的 JSON。适合自己部署语言模型的人。
klein-ml · 工具包
用 13.1M 参数的模型把文字变成四种语言的 24 kHz 语音,有 17 种声音,在 CPU 上比实时还快。适合需要小而快的语音模型的开发者。
BAAI · 工具包
判断一段文字对查询的回答程度,用来给搜索结果重新排序,支持多种语言。输入问题和文档,返回一个相关性分数。适合构建搜索和检索流程的人。
XHToken · 工具包
以 4-bit GGUF 文件运行 XHToken 的 1.7B 小型端侧语言模型,可做中英文的聊天、编码和智能体任务,思考强度可调。适合在本地运行模型的人。
speakleash · 工具包
能用波兰语、英语和另外六种语言回答的聊天模型,打包成五种大小的 GGUF 文件,供 llama.cpp 或 Ollama 使用。适合想在自己电脑上用指令模型的人。
ACE-Step · 工具包
根据文字描述生成完整歌曲,由规划歌词和结构的语言模型,加上渲染音频的扩散 Transformer 组成。设计上可在消费级硬件上运行。
unsloth · 工具包
Unsloth 制作的 Qwen3.8 27B 视觉语言模型的 4-bit NVFP4 副本,用 vLLM 提供服务。适合想要能读图像和视频、能在智能体工具里工作的稠密模型的开发者。
Qwen · 工具包
把文本变成向量,用于搜索、代码检索、分类和聚类,支持 100 多种语言。这是 Qwen 嵌入系列里的 8B 模型,向量大小可调,还支持任务指令。
hindsight-ai · 工具包
针对文本状态上的有类型问题,一次给出每个选项的概率,不生成文字,支持八种语言。这是 Hindsight 工具用的 0.8B 决策模型,可用 vLLM 或 Transformers 提供服务。
Qwen · 工具包
Qwen 的 8.2B 开放语言模型,可在处理难题的思考模式和日常聊天的普通模式之间切换,支持工具调用和 100 多种语言。
nvidia · 工具包
转写 25 种欧洲语言的语音,自动识别语言,并加上标点、大小写和词级时间戳。这是 NVIDIA 的 600M 参数语音转文字模型,面向开发者和转写服务。
hazyresearch · 工具包
Hazy Research 为 Next-Concept Modeling 发布的研究检查点,这是一种由粗到细的文本生成方法,含用于摘要、翻译、数独和语言建模的分词器与生成器配对。
Qwen · 工具包
最小的 Qwen3 对话模型,基于 Qwen3-0.6B-Base 构建。它能在思考模式和更快的普通模式之间切换,支持 100 多种语言和 32,768 token 的上下文,在普通硬件上也能运行。
google · 工具包
接收文字、图像和音频输入并输出文字,上下文 128K token,支持 140 多种语言。这是 Google DeepMind 的小型指令微调 Gemma 4 模型,为在笔记本和手机上运行而设计。
zai-org · 工具包
读取文档图像中的文字、公式和表格,并从中提取结构化信息,支持八种语言。这是 zai-org 的小型 OCR 模型,面向开发者和文档处理流水线。
maya-research · 工具包
用 24 kHz 音频朗读 11 种印度语言和英语的文字,边生成边流式输出,带 20 个内置声音和跨语言声音克隆。这是一个可以自己托管的开放 2.5B 文字转语音模型。
google · 工具包
接收文字、图像和音频输入并输出文字,上下文 128K token,支持 140 多种语言。这是 Google DeepMind 最小的指令微调 Gemma 4 模型,为手机和笔记本而设计。
deepseek-ai · 工具包
DeepSeek 的预览版混合专家语言模型,总参数 284B,每个词元用 13B,上下文一百万词元。是 DeepSeek-V4-Pro 的较小兄弟。适合实验室和重度自托管。
169Pi · 工具包
通过三种位深的 GGUF 文件,在你自己的机器上运行 169Pi AI 的图文模型 Alpie Seed 9B。适合想在本地做视觉语言对话的开发者。
openai · 工具包
OpenAI 的开放权重语言模型,117B 参数,可调推理强度,思维链可见并支持工具使用。能在一块 80 GB 的 GPU 上运行,采用 Apache 2.0 许可。
ResembleAI · 工具包
Resemble AI 的开源文字转语音模型,支持零样本声音克隆和情感夸张控制。最新的多语言版本覆盖 23 种语言,参数量 0.5B。
datalab-to · 工具包
能在 CPU 上运行的小型 OCR 模型,把 PDF 和图片转成 markdown、文本,或带框的 JSON。能读手写和 80 多种语言。适合开发者和数据团队。
spybyscript · 工具包
既能朗读又能按旋律谱演唱的文字转语音模型,有十四种声音、六种语言,可调强度、语速和音高。
Qwen · 工具包
把文字转成数字向量,用于搜索、检索、分类和聚类,支持 100 多种语言,包括编程语言。是 Qwen3 Embedding 系列里最小的 0.6B 参数文本嵌入模型。
inclusionAI · 工具包
把文字转成七种语言的语音,包括中文和英文。它能用一段短音频复制声音,按描述设计新声音,并控制情绪、语速、音高和音量。
XHToken · 工具包
面向设备端使用的紧凑 4B 语言模型的 GGUF 版本,针对编程、智能体和长上下文调校,有从无到高的三档思考级别。支持英文和中文。
tencent · 工具包
用腾讯的一个 4B 视觉语言模型在图片中查找、计数、指向、识字和分割物体,并生成 alpha 抠图。适合做视觉定位和图像抠图的研究人员。
taobao-mnn · 工具包
用 192 到 726 MB 的 GGUF 文件运行一个紧凑的 0.3B 中英文语言模型,专为手机、笔记本等设备端使用而做,可配合 llama.cpp、LM Studio 或 ollama。
BAAI · 工具包
把 100 多种语言的文字转成向量用于搜索,从短句到 8192 词元的文档都行。一个模型同时支持稠密、多向量和稀疏检索。由 BAAI 发布。
moondream · 工具包
把语音转成文字,并给出句子和单词的时间戳。它是 moondream 对 NVIDIA parakeet-tdt-0.6b-v3 做后训练得到的版本,适合需要多语言准确转写的开发者。
divagr1925 · 工具包
一个实验性的 Qwen3.5-4B,把 32 位 RISC-V CPU 编译进了权重里,所以能在模型内部做精确算术,适合想探索语言模型内部计算的研究人员和好奇的开发者。
Cactus-Compute · 工具包
转写七种语言的语音,给出单词时间戳和语音嵌入,模型只有 16.9 MB。一段简短的 Python 脚本就能运行,适合给应用加入语音功能的开发者。
memorilla · 工具包
收录 Memorilla 的记忆模块检查点,通过 Qwen3-Embedding-4B 编码器给冻结的 Qwen3-8B 模型加上记忆。适合研究语言模型记忆的研究者。
Qwen · 工具包
用一个 4B 的混合架构模型处理文字和图片输入,支持 201 种语言和方言,上下文为 262,144 个 token。适合在 transformers、vLLM 或 SGLang 里运行小型开放权重的开发者。
KRAFTON · 工具包
把 Raon-1 nano 语言模型打包成适用于 llama.cpp 的 GGUF 文件,让开发者在自己的电脑上运行韩英双语聊天模型。列出了四种量化类型。
openai · 工具包
OpenAI 的语音转文字模型,能转写多种语言的音频,可以把语音翻译成英文文字,还能加上句子或单词级时间戳,适合任何想把录音变成文字的人。
Qwen · 工具包
Qwen 的 9B 开放模型,能读取文字和图片并输出文字,上下文很长,支持 201 种语言和方言,适合想在自己硬件上用中等规模模型的开发者。
XHToken · 工具包
一个 4.1B 的语言模型,擅长编程、智能体任务和长上下文,支持英文和中文,有三档思考强度,适合构建在自己设备上运行的智能体的开发者。
openbmb · 工具包
用 30 种语言和九种中文方言朗读文字,输出 48 kHz,可根据文字描述设计新声音,也能从一小段音频克隆声音。这是面向开发者的开放 2.3B 文字转语音模型。
summerAIO · 工具包
把 Qwen3.8-27B 转成掩码扩散语言模型,用并行解掩码的方式生成文字。这是一个实验性的研究检查点,适合有大显卡的研究人员和机器学习工程师。
nvidia · 工具包
用 NVIDIA 推出的 9.6M 参数小模型,清理任何语言里有噪声或受损的语音录音,适合需要更清晰人声的音频和语音开发者。
microsoft · 工具包
用一个约 4B 参数的小型视觉语言模型,根据截图和终端命令来操作电脑,由 Microsoft 开发,适合构建或研究电脑操作智能体的人。
RecursiveSI · 工具包
为编程智能体打造的 39.8B 混合专家语言模型,能调查代码库、修复 bug、实现功能并编写测试,适合在 GPU 服务器上运行自己智能体的开发者。