svd-linear-attention-roberta-base-adasplash
Hooshaai · 工具包
用 AdaSplash 稀疏注意力的 RoBERTa Base 模型对英文文本分类,比如 SST-2 情感,用部分精度换取更低的延迟和显存占用。
新上架
写代码、审代码用的提示词、编程智能体任务说明和工具包,花更少的 Token。
Hooshaai · 工具包
用 AdaSplash 稀疏注意力的 RoBERTa Base 模型对英文文本分类,比如 SST-2 情感,用部分精度换取更低的延迟和显存占用。
Hooshaai · 工具包
一个 RoBERTa Base 情感分类器,把注意力换成稀疏的 AdaSplash 版本,让 40% 的注意力权重变成零,以降低耗时和内存。适合测试高效注意力的开发者。
dmeight · 工具包
在 Apple silicon 的 LM Studio 里,通过 Splash 运行时以 8-bit 运行 Qwen3.8-27B。这是一个非官方的包,比 4-bit 版本更接近原始模型,但速度更慢。
incoai · 工具包
通过 Inco AI 的 Splash 引擎在 Apple 芯片 Mac 上运行 Qwen3.8-27B,一个包里含 4-bit 模型、DFlash 2 草稿模型和视觉编码器。只能在 Splash 里使用。