AI 研究技能与智能体

GuardrailAgent Benign Check

Sattyam · 工具包

展示 GuardrailAgent 输入关卡把 250 条无害的 XSTest 提示词误判为越狱的频率，并附上每条提示词和每个决定。适合开发或评估提示词过滤器的人。