Swift 1.5 Ornith 9B GGUF
ukisai · 工具包
以 llama.cpp 用的 GGUF 量化版本运行 Swift 1.5 Ornith 9B,这是一个调校成用更少 token 思考的推理模型。适合在自己机器上运行 9B 推理模型的人。
新上架
ukisai · 工具包
以 llama.cpp 用的 GGUF 量化版本运行 Swift 1.5 Ornith 9B,这是一个调校成用更少 token 思考的推理模型。适合在自己机器上运行 9B 推理模型的人。
agentionai · 工具包
比 Qwen3.8-27B 回答更简短直接,使用更少的回答和思考 token,因此回复结束得更早。这是一次轻量微调,可以直接用在与基础模型相同的工具里。
peculiar-ragdoll · 工具包
4B 编程模型 Spark-X2.5 的压缩 GGUF 版本,针对约 6 GB 显存的 GPU 调整了长上下文。适合想在小硬件上本地运行编程模型的开发者。
peculiar-ragdoll · 工具包
替换 Qwen3.5、3.6 和 3.8 模型的聊天模板,让它们回答前少想一些、回复更紧凑。适合在本地运行 Qwen 做编程和知识工作的人。
peculiar-ragdoll · 工具包
在 6 GB 显存的显卡上运行支持长上下文的 4B 编程模型。这些 Spark-X2.6-4B 的 GGUF 量化版有三种大小,使用偏向编程的重要性矩阵。