bitnet.cpp 1 比特推理框架
microsoft · 工具包
微软官方的 1 比特大模型推理框架，基于 llama.cpp。它能在 x86 和 ARM CPU 上运行 BitNet b1.58 这类三值模型，也有 GPU 内核。这份说明涵盖 Windows、Linux、GPU 内核和嵌入模型的安装步骤。
新上架41.5k
开发者 AI 技能与智能体
写代码、审代码用的提示词、编程智能体任务说明和工具包，花更少的 Token。
写代码、审代码用的提示词、编程智能体任务说明和工具包，花更少的 Token。
microsoft · 工具包
微软官方的 1 比特大模型推理框架，基于 llama.cpp。它能在 x86 和 ARM CPU 上运行 BitNet b1.58 这类三值模型，也有 GPU 内核。这份说明涵盖 Windows、Linux、GPU 内核和嵌入模型的安装步骤。