大模型推理优化工程师

【岗位职责】 职位描述 2、负责小鹏大模型推理技术在物理AI场景下的工程搭建及落地，包括但不限于自动驾驶，舱驾融合，机器人等场景 2、负责小鹏大模型推理引擎XLLM的核心特性开发，包括但不限于kv cache管理，FlashAttention设计及优化，投机解码 3、负责小鹏大模型推理引擎XLLM的加速优化，包括模型结构优化（MoE，Diffusion）及底层计算加速（INT4、INT8）。 4、负责小鹏大模型压缩技术探索，涵盖量化（QAT/PTQ）、剪枝、蒸馏、稀疏化、NAS等 职位要求 硕士研究生及以上学历，计算机及相关专业； 有扎实的数据结构与算法基础，熟悉python或C/C++。 熟悉并掌握主流模型压缩技术，如量化（GPTQ/AWQ/SmoothQuant）、剪枝（Sheared-LLaMa）、蒸馏及NAS。 3、熟悉LLM推理框架（如vLLM，SGLang，TensorRT-L…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 21732 个北京岗位（全城各职能合计），其中 1797 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 12K，最低 1K、最高 300K。