多模态模型安全策略专家

工作职责: 1. 建设多模态安全策略体系：围绕文本、图像、音频、视频的理解与生成场景，建立风险分类、分级标准及安全响应原则，将合规要求和业务需求转化为可执行的标注规范与评测标准。 2. 安全数据标注与质量管理：结合模型训练与安全对齐需求，制定数据采样、标注和验收方案，组织开展风险标签标注、安全回复撰写及偏好排序；通过标注培训、抽检复核和疑难案例仲裁，提升数据质量与判断一致性。 3. 搭建安全评测体系：设计覆盖不同安全风险的评测集，明确评测指标与判定口径，开展模型版本对比、专项评测及回归验证，为模型迭代与上线提供依据。 4. 开展多模态对抗评测：针对越狱诱导、提示注入、跨模态组合绕过及多轮交互等场景，设计对抗用例，挖掘模型安全边界，持续沉淀攻击样本库和典型风险案例。 5. 推动安全策略优化：结合评测结果与线上风险反馈，分析风险漏放、过度拒答及跨模态安全表现差异，协同算法、产品及数据团队推进训…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 24807 个上海岗位（全城各职能合计），其中 1207 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 8K ~ 20K（25~75 分位），中位约 12K，最低 0.8K、最高 113K。