【商业化】大模型Infra架构工程师

1、构建适合电商领域的大模型，提供高性能低成本的在离线解决方案，与算法工程师密切合作，持续提升大模型的能力 2、设计开发大模型训练系统，优化实现多种并行策略、算子优化、ZeRO技术、FlashAttention、量化技术、高性能Reduce通信库等，极致优化训练性能 3、设计开发大模型推理系统，应用PagedAttention、Batching优化、GPU算子优化、量化与压缩等技术，构建高吞吐、低延迟、支持数万QPS的在线服务 4、跟进最新的AI算法和infra的进展，并高效地将新技术落地应用到PDD电商的实际业务中，为消费者创造价值 【任职要求】 1、本科及以上学历，具有扎实的计算机基础，熟悉操作系统和网络，熟悉C++/Python编程，具有高性能系统开发经验 2、熟悉主流深度学习框架TensorFlow或PyTorch，熟悉至少一种模型推理框架如vLLM/TensorRT-LLM等 …… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 3059 个上海技术研发岗位，其中 104 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 22K（25~75 分位），中位约 20K，最低 4K、最高 100K。