GPGPU 推理芯片性能优化工程师

岗位职责 1.负责面向 GPGPU 推理芯片的大模型及深度学习算子性能分析与优化，提升芯片计算效率、访存效率和端到端推理性能。 2.负责 CUDA 算子的开发与深度优化，包括矩阵乘、卷积、Attention、归一化、激活函数、量化与反量化、通信等核心算子。 3.针对 GPU/GPGPU 微架构进行性能调优，包括线程组织、访存合并、共享内存使用、寄存器分配、计算与访存流水并行等。 4.负责大模型推理关键模块优化，包括 GEMM、FlashAttention、KV Cache、MoE、RoPE、RMSNorm、Sampling 等。 5.使用 Nsight Systems、Nsight Compute 等工具分析算子和模型性能瓶颈，建立 Roofline、带宽、算力及访存开销等性能模型。 6.负责算子融合、内核调度、数据布局、并行策略和流水线设计，降低 Kernel Launch、数据搬运及同…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。