岗位描述(节选)
岗位职责:
1. 负责 GPU 服务器集群的搭建、监控、日常运维、故障处理,管理多卡算力资源,保障集群稳定;
2. 本地私有化部署开源大模型,搭建推理、微调环境,使用 vLLM 等框架做推理服务,进行量化、并行性能调优;
3. 维护 Linux、CUDA、Docker 环境,使用 Slurm/K8s 做算力调度,编写运维 SOP 和部署文档;
4. 和算法团队配合,解决训练、推理阶段底层算力和环境问题,规划算力扩容。
【任职要求】
任职要求:
1. 3 年以上 GPU 集群运维 + 大模型本地部署经验;精通 Linux、Docker;熟悉 CUDA、NCCL;
2. 熟悉 Slurm 或 K8s 算力调度,熟悉 GPU 监控,能排查硬件、网络、显存故障;
3. 实战落地过本地大模型推理,掌握模型量化、推理加速;有 LoRA 微调环境搭建经验优先;
4. 能写 Shell/Python 脚……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。
本站当前在招 24393 个上海岗位(全城各职能合计),其中 1201 个公开标注了薪资。按这些标注统计:月薪(税前)主流区间 8K ~ 20K(25~75 分位),中位约 12K,最低 0.8K、最高 113K。
在招岗位较多的企业:字节跳动 992 个米哈游 663 个拼多多 479 个哔哩哔哩股份有限公司 445 个阿里巴巴集团 431 个
统计口径:求职者营地实时在招岗位的公开薪资标注,未标注者不计入;区间为 25~75 分位,非薪酬承诺。