AI大模型安全工程师

【工作职责】 1、大模型安全评测与红队测试：对实验室大模型进行常态化安全评测，覆盖 Prompt 注入、越狱攻击、思维链劫持、对抗样本等攻击手法；建设攻击样本库与自动化红队测试框架，持续挖掘新型攻击类型。 2、安全护栏管理与内容风险防控：基于现有安全护栏，结合业务场景完成输入/输出端护栏的策略调优，包括敏感词库、风险规则和分级处置逻辑等；建立常态化监测机制，对护栏告警内容进行实时研判与闭环处置；制定内容安全策略与分级标准，在确保防控有效性的前提下平衡用户体验。 3、模型全生命周期安全加固：建设模型安全相关的训练语料，对已有训练数据进行清洗、去毒与敏感信息脱敏，防范数据投毒与隐私泄露；强化模型推理服务安全，防止模型窃取、成员推理攻击与梯度泄露等安全隐患。 4、Agent 安全评测与防御：研究 Agent 在多步执行、工具调用、跨应用协同等场景下的安全风险，如指令劫持、权限滥用、工具投毒等；开…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 8509 个杭州岗位（全城各职能合计），其中 507 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 9K ~ 22K（25~75 分位），中位约 14K，最低 1K、最高 250K。