岗位描述(节选)
职位名称:AI Infra软件高级研究员
主要工作:推理负载动态感知的弹性伸缩与混合attention架构下的并行策略优化
岗位职责
1.主导混合Attention架构(MHA/GQA/MLA等)下的大模型推理并行策略优化:结合线上请求长度分布、KV显存布局与跨机互联带宽,动态适配并行切分方案,针对性化解不同Attention变体带来的显存墙与通信热点,持续抬升单卡与集群整体推理吞吐;
2.负责大模型推理服务的弹性伸缩与算力资源治理:结合线上流量潮汐、请求排队水位与上下文缓存占用情况,设计能感知推理实时负载的自动扩缩容机制,优化推理实例冷启动与GPU资源池化调度,在保障SLA的同时压缩闲置算力开销,平稳承接突发流量与长尾请求洪峰;
3.抽象AI Agent原生工作负载特征,针对性优化底层运行引擎,做好会话状态复用、子任务异步编排和多模型动态降级兜底,缩短Agent端到端响应耗时,减少无效计……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。
本站当前在招 21036 个北京岗位(全城各职能合计),其中 1782 个公开标注了薪资。按这些标注统计:月薪(税前)主流区间 7K ~ 20K(25~75 分位),中位约 12K,最低 1K、最高 300K。
在招岗位较多的企业:字节跳动 1498 个美团 1480 个阿里巴巴集团 1180 个快手 952 个小米集团 863 个
统计口径:求职者营地实时在招岗位的公开薪资标注,未标注者不计入;区间为 25~75 分位,非薪酬承诺。