【电商】大模型Infra架构工程师

1、负责实现和优化大模型分布式训练以及在线推理系统，提升训练效率和推理性能，包括不限于：架构设计、算子开发、数据处理加速、Checkpoint保存与加载、通信优化等； 2、研究和优化大规模异构加速集群调度、存储、通信互联、监控、Profiling等组件，提升整体硬件利用效率； 3、研究并实现各种模型并行策略（DP/TP/PP/EP/CP）、混合精度、Zero、FSDP、MOE、FP8等技术，加速模型训练，优化显存开销； 4、设计和开发高效的离线、在线推理系统，优化TensorRT-LLM、ONNX-Runtime、vLLM等推理框架，加速整体推理性能； 【任职要求】 1、本科及以上学历，具有扎实的计算机基础，熟悉操作系统和网络，熟悉C/C++和Python编程语言，对数据结构&算法设计有较深刻的理解； 2、熟悉至少一种主流的深度学习框架，如Tensorflow或Pytorch；熟悉至少一…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 3080 个上海技术研发岗位，其中 103 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 22K（25~75 分位），中位约 20K，最低 4K、最高 100K。