Ornith-1.5-122B-NVFP4-DFlash2-RTX-Spark
Sherlock-Comms · 工具包
通过 vLLM 和 DFlash2 推测解码来运行 122B 的 Ornith 1.5 模型,输出头保持未量化。适合有 128 GB 内存的 RTX Spark 笔记本。
新上架
Sherlock-Comms · 工具包
通过 vLLM 和 DFlash2 推测解码来运行 122B 的 Ornith 1.5 模型,输出头保持未量化。适合有 128 GB 内存的 RTX Spark 笔记本。