sched-sim
prajwalpujari16 · 工具包
一个 LLM 服务调度器的浏览器模拟器,用动画甘特图比较连续批处理、分块预填充、最短作业优先和分离式服务。适合工程师和学生。
新上架
prajwalpujari16 · 工具包
一个 LLM 服务调度器的浏览器模拟器,用动画甘特图比较连续批处理、分块预填充、最短作业优先和分离式服务。适合工程师和学生。
prajwalpujari16 · 工具包
一个浏览器端的 LLM 服务基准注册表,数据取自消费级 GPU,双 Tesla T4 和 RTX 3050 笔记本,带并发扩展曲线,还能提交你自己的测量结果。