阿里云智能-大模型推理存储架构师-KVCacheStore

1. 深入大模型推理业务，与客户及推理平台团队共同分析模型特征、请求负载和服务质量要求，识别长上下文、多轮对话、Agent 等场景中的重复计算、缓存容量和调度效率瓶颈。 2. 负责 KVCacheStore 与推理系统的端到端架构设计，结合推理引擎执行流程、模型并行方式和 KV Cache 管理机制，制定缓存接入、跨实例复用及分层管理方案。 3. 联合优化请求调度与缓存管理，研究前缀复用、缓存感知路由、预取和淘汰等策略，权衡缓存读取与重新计算的开销，改善首 Token 延迟、推理吞吐和 GPU 有效利用率。 4. 面向推理服务扩缩容、请求迁移和故障恢复等场景，设计缓存共享、数据流动及异常回退机制，兼顾上下文复用效率与推理服务稳定性。 5. 主导原型开发、性能评测与生产验证，建立覆盖推理引擎和缓存系统的观测及分析方法，定位端到端瓶颈，并将客户共建成果沉淀为产品能力和最佳实践。 【任职要求】…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 21045 个北京岗位（全城各职能合计），其中 1782 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 12K，最低 1K、最高 300K。