岗位描述(节选)
【岗位职责】
负责支撑百亿/千亿级 VLM 从零开始的预训练。直面万卡级集群的通信瓶颈与显存墙,深入分布式训练内核,从第一性原理出发设计并落地业界领先的并行策略与通信调度方案。
1. 分布式并行架构设计与演进:主导设计并持续优化 4D 并行(DP/PP/TP/CP)策略。深入理解并落地 DeepEP、Dual Pipe、ZeRO 等核心机制,在多机多卡环境下实现通信与计算的高度重叠,逼近集群线性加速比。
2. 集群通信效率极致优化:从拓扑亲和性与通信原语调度层面,对分布式训练中的集体通信模式进行深度调优。通过计算通信重叠、通信分组优化等手段,将集群通信效率逼近硬件带宽上限。
3. 显存与算力利用率的极致压榨:围绕 MFU(Model FLOPS Utilization) 和显存利用率两大核心指标,持续进行系统级调优。结合 Context Parallelism 等并行策略,在多卡环境下实……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。
本站当前在招 21309 个北京岗位(全城各职能合计),其中 1808 个公开标注了薪资。按这些标注统计:月薪(税前)主流区间 7K ~ 20K(25~75 分位),中位约 12K,最低 1K、最高 300K。
在招岗位较多的企业:美团 1546 个字节跳动 1442 个阿里巴巴集团 1217 个快手 966 个小米集团 861 个
统计口径:求职者营地实时在招岗位的公开薪资标注,未标注者不计入;区间为 25~75 分位,非薪酬承诺。