Sharp-Spark-X2.5-4B-GGUF
peculiar-ragdoll · 工具包
4B 编程模型 Spark-X2.5 的压缩 GGUF 版本,针对约 6 GB 显存的 GPU 调整了长上下文。适合想在小硬件上本地运行编程模型的开发者。
新上架
peculiar-ragdoll · 工具包
4B 编程模型 Spark-X2.5 的压缩 GGUF 版本,针对约 6 GB 显存的 GPU 调整了长上下文。适合想在小硬件上本地运行编程模型的开发者。
peculiar-ragdoll · 工具包
在 6 GB 显存的显卡上运行支持长上下文的 4B 编程模型。这些 Spark-X2.6-4B 的 GGUF 量化版有三种大小,使用偏向编程的重要性矩阵。