阿里云智能-大模型推理存储研发工程师-KVCacheStore

1. 负责 KVCacheStore 面向大模型推理系统的客户端、SDK 与 Connector 研发，将 KV Cache 查询、读写、预取、淘汰及异常回退融入推理执行流程。 2. 研发 KV Cache 的数据组织与管理机制，结合模型并行、缓存分块和张量布局，设计缓存标识、分片映射及元数据管理方案，保障跨实例缓存复用的正确性和效率。 3. 优化 GPU 显存、主机内存、本地存储与共享存储之间的数据通路，通过批量访问、异步流水线、缓冲区复用及高性能网络通信等机制，降低缓存访问对推理关键路径的影响。 4. 结合业务负载与推理调度，优化缓存容量配比、数据放置、预取和淘汰策略，减少缓存过早失效及重复 Prefill 计算，提高有效命中率与推理吞吐。 5. 建设贯通推理引擎和存储系统的评测、可观测与诊断能力，定位性能瓶颈，完善超时、限流、故障回退及数据校验机制，保障高并发和动态扩缩容场景下的稳定…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 21214 个北京岗位（全城各职能合计），其中 1807 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 12K，最低 1K、最高 300K。