浏览 AI 技能、智能体和自动化

QuantBench

prajwalpujari16 · 工具包

一个浏览器工作室，用来探索每个权重低于一字节的 LLM 量化，有帕累托前沿探索器、BitNet 1.58b 位打包寄存器和层敏感度模拟器。适合工程师和学生。

bitnet.cpp 1 比特推理框架

microsoft · 工具包

微软官方的 1 比特大模型推理框架，基于 llama.cpp。它能在 x86 和 ARM CPU 上运行 BitNet b1.58 这类三值模型，也有 GPU 内核。这份说明涵盖 Windows、Linux、GPU 内核和嵌入模型的安装步骤。