岗位描述(节选)
1. 负责大模型分布式训练与推理框架的研发和性能优化,持续提升训练效率、推理吞吐、资源利用率及系统稳定性;
2. 与算法团队紧密协作,针对新模型结构(Dense/MoE等)提供框架层面的支持与适配,支撑算法高效迭代与算力高效利用;
3. 建设推理服务的可观测性与容错能力,完善监控、诊断、限流、降级与故障恢复机制,保障线上服务 SLA;
4. 调研、评估并推动 SGLang、vLLM、TensorRT-LLM、FlashInfer、Triton Inference Server 等前沿推理框架及优化技术在内部落地;
5. 参与GPU/异构集群的资源调度与成本优化,提升整体算力利用效率;
【任职要求】
1. 5年及以上 AI Infra、AI 系统、高性能计算或分布式系统相关研发经验;
2. 熟悉GPU 体系结构与 CUDA 编程,了解国产加速芯片(昇腾 NPU、平头哥 PPU 等)及配套软……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。
本站当前在招 1434 个杭州技术研发岗位,其中 60 个公开标注了薪资。按这些标注统计:月薪(税前)主流区间 20K ~ 32K(25~75 分位),中位约 28K,最低 5K、最高 90K。
在招岗位较多的企业:阿里巴巴集团 396 个云尖信息 144 个吉利控股 129 个海康威视 112 个蚂蚁集团 95 个
统计口径:求职者营地实时在招岗位的公开薪资标注,未标注者不计入;区间为 25~75 分位,非薪酬承诺。