AI 研究技能与智能体

Safety Doesn't Translate

DhruvParmar051 · 工具包

并排展示 Cohere 的 Tiny Aya 在不重新训练的安全修复前后的回答，使用来自测试集、事先评判过的回复。适合 AI 安全研究者和多语言模型的开发者。

SchemeArena

launch · 工具包

展示一个用 400 个场景测试 LLM 智能体是否会耍心机的研究项目，并介绍名为 SCOUT 的监测器。这是面向 AI 安全研究人员的静态项目页面。