Ai Infra 专家

职位描述 负责LLM/VLM大模型的部署与推理性能优化，系统性降低硬件延迟瓶颈，保障高并发下线上服务稳定性（TTFT与TPOT满足SLA要求）。 探索前沿推理加速技术，推动在新型GPU/NPU等硬件上的落地。 【任职要求】 职位要求 1. 精通Python，熟悉C++，具备高性能代码开发与算法实现能力。 2. 至少具备以下2个领域中的实践经验： a. Transformers与Diffusers库，深入理解Attention变体（GQA、MLA、KDA、Sparse Attn）及其优化技术（FlashAttention、PagedAttention）； b. GPU编程（CUDA/cutlass/Triton/TileLang开发）且掌握性能分析工具（Nsight、PyTorch Profiler等）； c. 模型压缩（量化、稀疏化、知识蒸馏）； d. GPU集群通信架构（卡间通信NVL…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 24504 个上海岗位（全城各职能合计），其中 1211 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 8K ~ 20K（25~75 分位），中位约 12K，最低 0.8K、最高 113K。