Raon-1 nano (LiteRT-LM)
KRAFTON · 工具包
把 Raon-1 nano 打包成 4-bit 的 LiteRT-LM 包,上下文 4,096 个 token,用于在设备上运行韩英双语聊天模型。回复不带思考步骤。
KRAFTON · 工具包
把 Raon-1 nano 打包成 4-bit 的 LiteRT-LM 包,上下文 4,096 个 token,用于在设备上运行韩英双语聊天模型。回复不带思考步骤。
deepseek-ai · 工具包
用 684B 的推理模型生成文本,该模型主要通过强化学习训练,面向数学、代码和逻辑。适合自己托管大型开源模型的研究人员和团队。
DeepHat · 工具包
面向网络安全和 DevOps 工作的 7B 编程模型,由 Qwen2.5-Coder-7B 微调而来。适合想要本地小模型的安全和运维工程师,须遵守附加的使用限制。
Apexintelligence-AI · 工具包
用于编程、工具使用、问答、搜索和研究任务的文本模型,基于 Qwen3.6-35B-A3B,每个词元约用 3B 参数。适合开发者和研究者。
unsloth · 工具包
用 Unsloth 的 GGUF 文件运行 Flint,这是面向编程智能体的 39.8B 混合专家模型,每个词元只用约 2.5B 参数。适合在本地运行编程智能体的开发者。
reflection · 工具包
Reflection 推出的开放指令微调文本模型,501B 参数,每次激活 23B,上下文 1M token,面向编程、工具使用和推理。需要大型多 GPU 服务器才能运行。
Qwen · 工具包
用 4B 的 Qwen3 模型生成文本,可在处理难题的思考模式和快速聊天的普通模式之间切换。适合想用小型聊天模型的开发者。
kusuriya-labs · 工具包
一个把 Qwen3.8-27B 剪掉一半层数再重新训练的实验,得到一个 14.7B 的日英模型,作者称它目前还不实用。
inclusionAI · 工具包
用 7.9B 的混合推理模型生成文本,每个词元只激活 1.3B 参数,适合本地和低资源环境。适合不想用数据中心 GPU 却要推理和智能体能力的开发者。
HemmingwayAI · 工具包
写日常文字,如邮件、博客文章和商品描述,也能把其他 AI 写的文字改得更像真人口吻。一个约 27B 参数的开放权重模型,仅限非商业使用。
deepseek-ai · 工具包
DeepSeek 的预览版混合专家语言模型,总参数 284B,每个词元用 13B,上下文一百万词元。是 DeepSeek-V4-Pro 的较小兄弟。适合实验室和重度自托管。
Cactus-Compute · 工具包
Cactus Compute 的小型设备端模型,用于工具调用、结构化提取和文本嵌入,通过 cactus Python 包使用。适合构建本地智能体的开发者。
XiaomiMiMo · 工具包
在一个 1.02T 参数、1M 词元上下文的模型里同时处理文字、图像、视频和音频。它是小米 MiMo-V2.6 系列的旗舰,用大规模强化学习训练,面向编程和智能体工作。
Qwen · 工具包
在你自己的电脑上运行 Qwen 的 7B 指令微调编程模型,打包成 GGUF 文件,有八种量化等级。适合想通过 llama.cpp 获得代码帮助的开发者。
openbmb · 工具包
用面向设备端和本地使用的稠密 2B 级模型生成文本,涵盖英文和中文的编程、数学、长上下文、工具使用和智能体任务。适合硬件有限的开发者。
openai · 工具包
OpenAI 的开放权重语言模型,117B 参数,可调推理强度,思维链可见并支持工具使用。能在一块 80 GB 的 GPU 上运行,采用 Apache 2.0 许可。
ccore · 工具包
为你描述的游戏资产写出完整的 Three.js 页面,带 3D 预览和导出 GLB 按钮。这是微调过的 Qwen3-1.7B,GGUF 格式,能在普通硬件上运行,适合游戏开发者。
Sparset · 工具包
Thinklite-27B 的 4 位 GGUF 版本,适用于 llama.cpp,每次回答比基础模型用更少的推理,适合在本地运行 27B 文本模型的人。
nvidia · 工具包
读取扫描件、PDF、幻灯片和表单的页面图像,返回其中的文字、表格、图表数据、阅读顺序和边框,输出为 Markdown、HTML 或 JSON。NVIDIA 推出的 631M 参数模型,面向开发者。
Qwen · 工具包
把文字转成数字向量,用于搜索、检索、分类和聚类,支持 100 多种语言,包括编程语言。是 Qwen3 Embedding 系列里最小的 0.6B 参数文本嵌入模型。