AI基建-大模型推理框架开发工程师

- 负责基于 vLLM、SGLang 等技术的大模型推理框架的开发工作，包括但不限于设计和实现高效的推理引擎架构，优化推理过程中的计算流程，提高推理性能，以满足不同规模大模型的实时推理需求 - 复杂大模型框架性能评估和调优工作，构建并完善性能监控体系，通过实时监测训练指标，定位性能瓶颈，提出优化方案，确保在不同硬件上达到最优性能。 - 负责Cuda Kernel优化，开发高性能的GPU算子, 提升大模型推理性能 - 硕士及以上学历，计算机、软件工程、数学等相关专业，具备扎实计算机理论基础和丰富编程经验，在深度学习领域有深入研究与实践。 - 精通 Python，熟练掌握至少一种深度学习框架（如 PyTorch），理解深度学习原理算法，有丰富模型开发与调优经验，能独立搭建复杂模型并优化性能。 - 熟悉 C++ 和 CUDA 编程，具备代码优化能力，能针对 GPU 等硬件高效编写和优化代码，了…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 3143 个北京技术研发岗位，其中 86 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 28K（25~75 分位），中位约 20K，最低 2K、最高 60K。