Laya Decision Engine

Laya Decision Engine

一个小型决策与路由模型，一次前向计算就能做选择、打分或核验，约 25 毫秒，不写任何文字。可作为 REST API 或 Gradio 演示使用。

由 saleejkuruniyan 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的，应用自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Laya 是一个约 1.5 亿参数的小模型，用来快速做决策，而不是写文字。它在一次前向计算里处理三类问题。选择是挑出一个选项，打分是在一个量表上给某样东西评分，核验是检查一个说法。

因为它从不生成文字，所以不会编造答案。README 的目标是响应在 30 毫秒以内，并把它作为 REST 服务或 Hugging Face 演示提供。

适合谁：适合运行 AI 流水线、想用一个便宜又快速的步骤来分派工作的开发者，比如在调用更大的模型之前，先判断任务需要哪种工具或格式。

Industry | Who uses it | How they use it | Example
教育科技 | 内容团队 | 把课程概念分派到合适的图表或视频引擎 | 把一个光线光学概念送到绘图库
AI 平台 | 后端工程师 | 在调用昂贵的模型之前先分派请求 | 每个被分派的图表或章节都能省下词元
教育工具 | 开发者 | 把考试闪卡分到不同的操作类型 | 把一张卡标成画图标注、记忆或解释
AI 开发 | 开发者 | 用脚本测试决策 API | 从 Python 客户端调用 predict 端点

如果你需要能用文字写作或解释的模型，可以跳过，因为这个模型只返回决策。

用在哪里：这个引擎可以在下面这些地方运行。

• 网页浏览器，在 Hugging Face 上的 Space 页面里
• 你自己机器或服务器上的 Docker 容器，提供 REST API
• Docker Compose 配置，或 README 所描述的那种 EC2 主机
• 你自己的 Python 代码，通过 REST API

Use case | Who | What they get back
在选项之间做选择 | 流水线构建者 | 选出的选项，以及置信度和概率
检查服务健康 | 运维人员 | 一条简短的状态回复
在浏览器里试用 | 好奇的人 | Hugging Face 上的演示页面

如何设置：在线使用只需要浏览器。你自己的副本需要下面这些。

• Python 3.12 用于 Gradio 演示，或者 Docker 用于 REST 服务
• Python 和 pip，用于 hf download 命令
• 约 300 MB 的模型所需的空间

1. 安装 huggingface_hub 包。
2. 用 hf 命令把 Space 的文件下载到一个文件夹里。
3. 进入这个文件夹。
4. 安装 gradio 和 requirements.txt 里的包。
5. 用 python app.py 启动演示。

pip install -U huggingface_hub
hf download saleejkuruniyan/laya-api --repo-type space --local-dir laya-api
cd laya-api
pip install gradio
pip install -r requirements.txt
python app.py

要运行 REST 服务，在 Docker 里构建镜像并运行，或者用 Docker Compose。

docker build -t laya-api .
docker run -d --name laya -p 8000:8000 --restart unless-stopped laya-api

docker compose up -d

如何使用：向 predict 端点发送一个 JSON 请求，里面有对情况的简短描述和要回答的问题。每个问题写明它的类型、说明和每个选项的判断标准。健康端点会报告服务是否在运行。仓库里有 test_client.py 和 test_curl.sh 可供试用。

{
  "state": "Ray diagram showing refraction of white light through a triangular glass prism splitting into VIBGYOR colors.",
  "questions": {
    "diagram_engine": {
      "type": "choice",
      "instructions": "Which diagram engine is best suited for rendering this concept?",
      "criteria": {
        "matplotlib": "ray optics, light mechanics, magnetic field lines, coordinate graphs, vectors",
        "svg": "electrical circuits, resistors in parallel/series, logic gates, chemical glassware",
        "generative_ai": "biological specimens, organ cross-sections, human anatomy, realistic 3D scenes"
      }
    }
  }
}

Tool | What it does
choice | 从你描述的列表里挑出一个选项
score | 给出一个有序评分
noul | 核验一个说法
POST /predict | 接收上面的请求并返回答案
GET /healthz | 报告服务是否健康

示例：你发送棱镜图的描述，问哪种图表引擎最合适。服务回答 matplotlib，置信度 0.89，svg 为 0.08，generative_ai 为 0.03，用时约 25 毫秒。

新手与专家：如果你是新手，把它想成一个快速的选择题评分器。你描述一种情况和各个选项，它挑出一个，不写一句话。先从演示页面开始。

如果你熟悉这个领域：它是非自回归的决策模型，所以一次前向计算就得出答案，不需要采样词元。README 说自托管在 CPU 上约 20 到 25 毫秒，而 ZeroGPU 上约 35 毫秒再加上网络时间。

用 JSON 描述当前状态
列出问题和选项
一次前向计算给每个选项评分
API 返回选择和概率

注意事项：README 对比了两种运行方式，并推荐持续使用时自托管。

Topic | Hugging Face ZeroGPU | Self-hosted
模型大小 | 约 1.5 亿参数 | 约 1.5 亿参数
每日配额 | 约 5 分钟，调用 5 到 8 次就用完 | 没有配额
速度 | 约 35 毫秒加一次网络往返 | 在 CPU 上约 20 到 25 毫秒
API | Gradio 队列流 | 向 predict 发 REST 请求

• License: apache-2
• Cost to run: 自托管未提及费用。README 说 ZeroGPU 演示有每日配额
• Data it reaches: 你发送的状态和问题，以及它保存在 Hugging Face 缓存文件夹里的模型文件
• Not for: 生成文字，因为它只返回决策

Hugging Face 上的数据（2026年11月13日）

• 点赞：1
• 构建方式：gradio
• 许可证：apache-2.0

链接

• Space：https://huggingface.co/spaces/saleejkuruniyan/laya-api
• 文件：https://huggingface.co/spaces/saleejkuruniyan/laya-api/tree/main

试用

在浏览器里打开这个 Space，或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。