大模型内容安全产品 - AI创新业务

【岗位职责】 团队介绍：字节跳动AI创新业务团队，在这里你将有机会参与到行业前沿产品的规划设计，开拓自己的行业视野，与先进团队共同成长。 1、负责对话安全风险的发现与治理，跟踪监管要求、舆情和线上负面案例，分析误伤与漏放数据，定位策略问题并推动规则、模型与工程侧优化，持续平衡安全水位与用户体验； 2、持续完善豆包对话大模型的内容安全策略体系，覆盖用户图文输入、模型思考、生成回复全链路，针对多轮对话、VLM、实时音视频通话等复杂场景设计安全策略方案； 3、对接大模型安全训练与评测团队，将策略侧发现的风险沉淀为训练语料和评测题集，反哺模型安全能力提升； 4、支撑新业务、新功能的安全评估与接入，输出安全方案并验收。 【任职要求】 1、3年以上内容安全、风控或策略产品相关经验，有大模型/AIGC内容安全、UGC审核策略经验者优先； 2、对模型后训练（SET、RL）、提示工程、决策模型、Agen…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 20969 个北京岗位（全城各职能合计），其中 1782 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 12K，最低 1K、最高 300K。