大模型推理基础设施专家

【岗位职责】 负责大模型推理平台架构设计、性能优化与集群建设，聚焦多模型调度、PD 分离、高并发保障及成本管控；要求具备 vLLM/TensorRT-LLM 等引擎源码经验，精通 CUDA、分布式并行与 KV 缓存，熟悉 K8s 及 GPU 调度，工作直接决定 AI 产品体验与商业化竞争力。 【任职要求】 必备条件 1、推理引擎能力：对 vLLM、TensorRT-LLM、SGLang、TGI 中至少一个引擎有源码级理解和二次开发经验，能独立修改核心调度器、调优缓存机制与并行策略，熟练使用 nsys、ncu 等工具进行端到端性能剖析。 2、GPU 优化能力：精通 CUDA 编程模型、NCCL 通信原语、NVLink/PCIe 总线特性和 HBM 内存架构，掌握CUDAGraph、Kernel 融合、内存带宽优化等技术，能运用 Roofline 模型定位系统瓶颈。 3、分布式并行经验：精通…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 8519 个杭州岗位（全城各职能合计），其中 507 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 9K ~ 22K（25~75 分位），中位约 14K，最低 1K、最高 250K。