岗位描述(节选)
岗位职责:
1、负责智算平台的大模型本地化部署、运维优化,承接算力平台模型推理服务运营;
2、负责通过弹性算法服务开展开源/闭源大模型的API接入、服务发布、灰度上线与版本管理,对接百炼等模型源;
3、负责模型服务监控告警体系建设,覆盖QPS、首Token时延、吞吐、显存占用、Token成本等核心指标;
4、负责模型服务压测、扩缩容与成本优化,支撑PD分离架构下推理集群的弹性调度与容量管理;
5、负责大模型网关、内容安全与合规评估落地,建立模型安全运营机制;
6、支持代码辅助、知识问答、流程提效等AI应用场景的模型选型、评测与落地;
7、负责模型服务日常巡检、故障处理与隔离恢复,主导线上故障复盘与SOP/Runbook沉淀;配合算力调度工程师完成GPU资源池规划,参与推理集群SLA保障与容量规划。
任职要求:
1、计算机科学、人工智能、软件工程等相关专业本科及以上学历
2、具备3年以上AI……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。