岗位描述(节选)
面向大模型在线推理场景,建设高性能、低成本、高可靠的推理加速基础设施,支撑高并发、大规模模型服务。
你将参与以下工作:
1. 参与大模型推理基础设施研发,围绕 KV Cache 管理、缓存复用、数据存储与传输,提升推理效率和资源利用率。
2. 设计和优化高性能缓存及 KV 存储系统,包括内存管理、并发访问、数据组织、缓存淘汰和持久化等核心能力。
3. 优化跨 GPU、CPU 内存及存储介质的数据流转,支持分布式缓存、存储与资源调度。
4. 定位并解决线上性能与稳定性问题,持续优化系统吞吐、延迟和可靠性。
【任职要求】
1. 计算机相关专业本科及以上学历,精通 C/C++,熟悉 Linux 系统开发、调试及性能分析。
2. 具备扎实的数据结构、算法、操作系统、并发编程和网络基础,有高性能系统或分布式系统研发经验。
3. 具备以下任一方向的经验:
- **大模型推理 / KV Cach……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。
本站当前在招 21791 个北京岗位(全城各职能合计),其中 1808 个公开标注了薪资。按这些标注统计:月薪(税前)主流区间 7K ~ 20K(25~75 分位),中位约 12K,最低 1K、最高 300K。
在招岗位较多的企业:美团 1546 个字节跳动 1442 个阿里巴巴集团 1217 个快手 966 个小米集团 861 个
统计口径:求职者营地实时在招岗位的公开薪资标注,未标注者不计入;区间为 25~75 分位,非薪酬承诺。