大模型推理研发工程师（J106548）

-负责公司基础大模型和专精大模型从模型权重到线上服务的全链路落地与业务适配，开展模型转换、模型压缩、知识蒸馏、推理适配等工作，完成部署配套算子适配、模型部署验证、精度对齐，保障大模型能力稳定落地业务 -对核心场景、核心模型的推理引擎极致优化，不限于pd分离、KVcache、投机解码、量化压缩、前缀缓存、连续批处理等手段，降低TTFT、持续提升decode吞吐，对超万亿参数模型积累部署推理优化经验；持续为上亿流量产品的大模型部署推理成本优化负责 -负责大模型推理链路全栈工程落地，包含模型权重预处理、自定义算子开发与性能优化、推理调度策略、显存管理；基于英伟达GPU、昆仑芯、昇腾等多硬件平台，定位端到端推理性能瓶颈，优化异构硬件资源利用率，保障线上服务稳定性、时延与吞吐指标 -负责多模态（文本、图像、语音）大模型推理方案设计与落地，构建推理侧评估与验证工具链，对比不同推理框架性能差异，保障线上…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 3320 个北京技术研发岗位，其中 85 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 28K（25~75 分位），中位约 20K，最低 2K、最高 60K。