资深后端开发工程师 （架构方向 / LLM 网关）(J10276)

1.核心路由架构设计：基于 LiteLLM 框架进行深度二次开发，利用set_custom_routing_strategy接口实现自定义路由逻辑。 2.智能路由算法实现： 开发排队感知路由算法，根据后端推理引擎的num_requests_waiting指标动态调整流量分发，避免长队阻塞。 实现TTL/LoRA 感知路由，优化 LoRA 权重加载节点的选择策略，降低推理延迟。 3.全局流量调度（GSLB）：构建多站点流量调度逻辑，基于 Region 和 Priority 标签，实现毫秒级的延迟分层路由（Local -> Nearby -> Remote）。 4.技术难点攻关：解决高并发下的路由性能瓶颈，确保网关层的低延迟与高吞吐。 【任职要求】 1.基础素质：计算机相关专业本科及以上学历，5年以上后端开发经验，具备扎实的计算机底层基础（数据结构、算法、网络协议）。 2.语言能力：精通 P…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 3158 个北京技术研发岗位，其中 86 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 28K（25~75 分位），中位约 20K，最低 2K、最高 60K。

本岗位标注月薪 20K ~ 35K，高于该范围约 71% 的在招岗位。