ARLoop-0.6B
osunlp · 工具包
把文本接着往下写,是带注意力残差的小型预训练循环 Transformer。这是基础模型,适合想在其上继续做中期训练或后训练的研究人员。
新上架
osunlp · 工具包
把文本接着往下写,是带注意力残差的小型预训练循环 Transformer。这是基础模型,适合想在其上继续做中期训练或后训练的研究人员。
osunlp · 工具包
osunlp 推出的开放 1.2B 基础语言模型,是带注意力残差的循环 Transformer,附带一次 500B token 训练的检查点。适用于文本补全和进一步训练。