大模型Infra工程师 (VLM推理)

【岗位职责】 负责 VLM（视觉-语言模型）大规模推理服务的基础设施设计与优化。以极致吞吐与极致成本为核心目标，从服务架构到底层 Kernel 进行全栈压榨，在既定算力预算下支撑尽可能大的业务流量。 1. 推理服务架构设计与优化：主导 VLM 在线推理服务的架构设计与持续演进，深度定制 SGLang 推理框架，针对 VLM 特点（长视觉序列、Prefill/Decode 异构计算）进行系统级适配与优化。持续提升服务吞吐上限，降低单 Token 推理成本。 2. 显存管理与 KV Cache 极致压榨：针对 VLM 多图/长视频场景下 KV Cache 巨大的问题，设计高效的显存管理方案。深入理解并优化 SGLang 的 RadixAttention（前缀缓存）机制，结合 PagedAttention 等分页管理策略，最大化 Batch Size 与缓存命中率，提升单卡吞吐容量。 3. 推理…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 3158 个北京技术研发岗位，其中 86 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 28K（25~75 分位），中位约 20K，最低 2K、最高 60K。