AI Infra 工程师（大模型训练/推理框架）

岗位职责 1. 推理适配与优化：基于 vLLM、SGLang、TensorRT-LLM 等框架，在 NVIDIA Blackwell 平台上适配主流开源模型；通过并行策略、PD 分离、KV Cache 复用、投机解码等手段优化吞吐与延迟，支撑 MaaS 平台上线，降低单位 token 成本。 2. 训练适配与优化：基于 Megatron-Core、FSDP 及 verl、OpenRLHF 等框架，支持租户的预训练、SFT 及 RLHF/GRPO 等任务，优化多机训练效率。 3. 镜像与版本管理：维护官方训练/推理镜像，跟进 CUDA、驱动、NCCL 与框架版本的兼容性，新版本发布后快速评估升级。 4. 性能基准：建设模型性能 Benchmark 体系与回归测试，为客户选型提供数据支撑。 5. 问题攻坚：与运维、平台研发团队协作定位性能和稳定性问题，参与客户侧技术支持。 任职要求 1. 本科…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 21286 个北京岗位（全城各职能合计），其中 1807 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 12K，最低 1K、最高 300K。