开发者 AI 技能与智能体

distilbert-sst2-rpc

Hooshaai · 工具包

在 GLUE SST-2 上微调的 DistilBERT 文本分类器，换用压缩的随机投影注意力，把打分计算量减半。适合研究更快注意力的实验模型。

Parallel Constrained Decoding for Apple Silicon

harshatheg · 工具包

在 Apple Silicon 上用 MLX 提取结构化字段、路由决策和给文本分类，一次给所有模式字段打分。在 M4 Max 上延迟降低 5.6 到 7.0 倍，JSON 始终有效。

Earlybird

sahilmahendrakar · 工具包

在设备上把语音转成文字，并在说话人说完之前预测每个词，同时给每个词打分。这是 16.8 MB 的英语模型，适合语音智能体和实时字幕。