OpenAI 红队测试网络（Red Teaming Network）开放招募

背景与目标

OpenAI 宣布启动 OpenAI Red Teaming Network，旨在构建一个由跨学科领域专家组成的外部协作网络，聚焦于对 OpenAI 当前及未来模型（包括 GPT-4 系列、o1 系列等）开展结构化、高强度的红队测试（red teaming），识别模型在偏见、滥用、幻觉、越狱（jailbreaking）、代理行为失控等维度的潜在安全风险。

参与机制

• 招募对象为具备真实领域专长的独立专家或小型团队（如核安全、生物信息学、网络安全、认知心理学、法律伦理等方向），不局限于 AI 安全研究者；
• 采用任务制合作模式：OpenAI 提供模型访问权限（含受限 API 或 sandbox 环境）、测试框架与评估指标（如 MMLU-RedTeam、HarmBench v0.2），并支付专业酬劳；
• 所有发现需经 OpenAI 安全团队复现验证，高优先级漏洞将纳入内部 RLHF 与 Constitutional AI 迭代流程。

合规与透明度

• 测试范围严格限定于 OpenAI 授权场景，禁止逆向工程、模型权重提取或未经授权的数据导出；
• 成果归属遵循《OpenAI Red Teaming Agreement》，关键发现可经脱敏后提交至 arXiv 或参与 co-authored 安全报告（如此前发布的《GPT-4 Technical Report》附录C）；
• 该网络不替代内部红队（Internal Red Team），而是作为其扩展层，强化对抗性压力测试的广度与纵深。