阿里国际站-大模型推理工程师/专家-杭州

1. 负责大模型训练和推理系统的研发和性能优化，包括性能计算性能优化，大模型推理框架，大模型流量调度，高效 CUDA 算子开发，低精度计算，高并发服务请求优化等打造领先的推理引擎。 2. 负责大模型训练和推理等前瞻性技术架构的调研和引入，不限于子图匹配、编译优化、模型量化等。 3. 与算法团队深度合作，进行算法和系统的联合优化，包括分析业务性能瓶颈，通过软硬结合的 方式，高效部署和优化 AIGC 核心业务模型，建设 AI 工具链等能力，支撑 AI 业务的高速发展。 【任职要求】 1. 熟练掌握 linux 环境下的 C++/Python 语言，有大规模机器学习或搜推广经验者优先。 2. 至少掌握一种机器学习框架（Tensorflow，Pytorch 或其他自研框架）。 3. 至少熟悉一种大模型训练/推理框架，诸如 vLLM、TensorRT-LLM、SGlang 等。 4. 具有独立解决…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 1430 个杭州技术研发岗位，其中 60 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 20K ~ 32K（25~75 分位），中位约 28K，最低 5K、最高 90K。