岗位描述(节选)
岗位职责
负责大模型训练的精度与收敛稳定性,监控和分析 loss、grad norm 等关键训练指标,判断训练状态是否健康。
定位并解决 loss spike、发散、梯度异常、收敛变慢等训练异常,从数据、超参、数值精度、系统实现等方面分析根因。
验证并行策略、算子、精度配置、框架和硬件变更的精度对齐,建立训练精度验收标准与工具链。
支持低精度训练、MoE 训练、RL 训练等场景中的数值问题。
任职要求
一线负责过百亿参数以上模型预训练或后训练的稳定性。
有丰富的训练异常排查经验,深入理解优化器、学习率调度、归一化等对训练稳定性的影响。
理解浮点数值误差的来源,能在框架和算子层面定位精度问题。
熟悉 PyTorch 和主流分布式训练框架。
加分项:有低精度训练、RL 训练或跨硬件精度对齐的经验。