AI大模型推理框架开发工程师（runtime）

【工作职责】 1、负责主流大语言模型（如LLaMA、Qwen、DeepSeek、Gemma等）在自研端侧NPU上的推理部署与适配； 2、持续跟进大模型推理前沿技术（FlashAttention、量化推理、投机采样、Continuous Batching等），并落地到端侧NPU上平台； 3、负责推理框架工程化方案落地，优化推理框架资源占用以及性能，提升推理部署效率； 4、与芯片架构、驱动、编译器团队紧密协作，推动硬件特性在软件栈的充分释放； 5、支持客户自有模型在端侧NPU上的推理迁移与部署，分析客户模型的推理性能瓶颈，输出优化方案并协助客户完成性能达标。 【任职要求】 1、基础：具有电子/计算机/自动化相关专业的本科及以上学历，备扎实的操作系统与体系结构知识； 2、编程能力：精通Python和C++，具备高质量的编码习惯，能够熟练进行复杂的系统级调试与性能分析； 3、框架经验：熟悉主流L…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 24465 个上海岗位（全城各职能合计），其中 1204 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 8K ~ 20K（25~75 分位），中位约 12K，最低 0.8K、最高 113K。