DeepSeek-V4.1-Flash-1017-GSQ-agentic-strata
kaushikvira · 工具包
把 763.2B 参数的 DeepSeek V4.1 Flash 做成 153 GiB 的混合精度版本,针对智能体和编程工作调校,在 strata 引擎上运行。适合有大显存 GPU 和大量内存的人。
新上架
kaushikvira · 工具包
把 763.2B 参数的 DeepSeek V4.1 Flash 做成 153 GiB 的混合精度版本,针对智能体和编程工作调校,在 strata 引擎上运行。适合有大显存 GPU 和大量内存的人。
deepgrove · 工具包
一个 20B 的三值权重推理模型,每个词元激活约 1B 参数。为快速的设备端使用而设计,检查点为 5.31 GB,上下文为 131,072 词元。这是一个预览版,在智能体任务上较弱。
webbrain-one · 工具包
用约 2 GB 的 GGUF 文件运行被压缩成三值权重的 Qwen3.5-9B,可在两个 llama.cpp 变体里用 CPU 运行。适合尝试极端压缩的研究预览版。
oguzeldereli · 工具包
用一个 40.4 GB 的 GGUF 文件运行被压成三值权重的 180B 混合专家模型 Qwen3.8-Flash-Next,比 FP8 版本小 4.6 倍。适合配合打过补丁的 llama.cpp 在本地使用。
oguzeldereli · 工具包
把 Qwen3.8-27B 压缩成三值权重的 GGUF 文件,可在 12 GB 显卡上运行,有 8.2 GB 和 6.74 GB 两个版本。适合想在普通硬件上跑大型本地模型的人。
moondream · 工具包
moondream 推出的 178 MB 语音识别模型,在八个 x86 CPU 核心上以 113 倍实时速度运行。它能转写英语、德语、法语、西班牙语、意大利语、葡萄牙语、俄语和乌克兰语。