Kimi-K3.1-Dflash2-Preview
RadixArk · 工具包
通过起草一块 token 让主模型一次验证,来加快 Kimi-K3.1-Pro 的推理服务。这是给 SGLang 用户的草稿模型,与目标模型配合使用,不是独立的语言模型。
新上架
RadixArk · 工具包
通过起草一块 token 让主模型一次验证,来加快 Kimi-K3.1-Pro 的推理服务。这是给 SGLang 用户的草稿模型,与目标模型配合使用,不是独立的语言模型。
Grawnch · 工具包
运行经过深度压缩的 2.8T 参数 Kimi-K3.1-Pro,针对编码和数学做了调校。由 Grawnch 用三层混合比特方案制作,适合拥有高端 GPU 工作站的人。