mini-infer
prajwalpujari16 · 工具包
一个浏览器工作室,模拟 GPU 上的 PagedAttention 块分配、前缀缓存、投机解码校验和 KV 缓存估算。适合想看清 LLM 服务如何管理显存的工程师和学生。
新上架
prajwalpujari16 · 工具包
一个浏览器工作室,模拟 GPU 上的 PagedAttention 块分配、前缀缓存、投机解码校验和 KV 缓存估算。适合想看清 LLM 服务如何管理显存的工程师和学生。
KumaPower · 工具包
补全图像中被遮盖的空洞,并把 Coherent Semantic Attention 方法的两个阶段并排展示,一个是粗略结果,一个是精修结果。适合研究图像修复的人。
alexanderkroner · 工具包
预测图片里哪些区域最先吸引目光,使用 2020 年 Neural Networks 论文中的 MSI-Net 模型。适合想快速查看可能关注区域的研究者和设计师。
webml-community · 工具包
展示 Vision Transformer 如何把注意力放在图像的各个部分,是一个在浏览器里运行的静态网页。它是 transformers.js 示例项目之一。
plitip · 工具包
检查一张工地照片里的安全隐患,给出安全、需要注意或不安全的结论,并用七种工人语言给出简短提醒。基于视觉模型和普通规则,没有大语言模型。适合工地安全团队。