模型推理优化工程师（J106570）

-模型推理性能优化：负责生成式 AI 模型的推理性能优化，涵盖 LLM、Diffusion、视频生成、数字人等模型，持续提升推理吞吐、降低延迟及计算成本 -推理框架优化：深入研究和优化主流推理框架，包括 TensorRT、ONNX Runtime、PyTorch、vLLM 等，结合业务场景进行定制化优化 -算子与计算优化：针对模型计算瓶颈，开展算子融合、计算图优化、显存管理、访存优化、并行计算等工作，必要时基于 CUDA、Triton 等开发高性能算子 -模型压缩与加速：探索并落地量化、蒸馏、剪枝、低精度计算等技术，在保证模型效果的前提下提升推理效率 -异构计算与部署优化：探索 GPU、CPU 及其他计算硬件的推理优化方案，针对不同模型和业务负载选择高性价比的计算架构 -端到端推理系统优化：结合实时交互、视频生成等业务需求，从模型结构、推理引擎到服务架构开展协同优化，实现推理成本和性能的持…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 3320 个北京技术研发岗位，其中 85 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 28K（25~75 分位），中位约 20K，最低 2K、最高 60K。