研究科学家 - [Seed Model - 对齐与准备]

【岗位职责】 Seed Model–Alignment & Preparedness 致力于在推进前沿模型能力的同时提升 AI 安全性。依托持续投入和大量算力资源，我们应对对齐、安全评估以及新兴风险准备方面的根本性挑战——将研究转化为安全、可靠、造福人们的 AI 系统。 我们正在寻找研究人员，让前沿模型和智能体更安全，重点聚焦智能体强化学习（agent RL）：训练在工具使用、代码执行和长周期任务中保持安全可控的智能体。 职责 - 智能体强化学习与安全训练：使用 RL、SFT 和偏好优化来安全地训练智能体。设计环境、奖励和训练数据，以减少欺骗、奖励黑客行为和未经授权的操作，并教会智能体检查授权、识别风险并在需要时停止，同时不牺牲有用的自主性。确保安全性能够泛化到新任务，并在进一步训练中保持有效。 - 前沿风险评估：与领域专家合作评估危险能力（例如 CBRN、网络安全），对威胁建模并构建…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。