高级后端开发工程师 （稳定性与高并发方向）(J10238)

1.全局限流系统开发： o替换 LiteLLM 默认限流机制，基于Redis Lua Script开发分布式限流组件。 o实现令牌桶算法，支持 RPM (Requests) 和 TPM (Tokens) 双维度限制，防止长文本 OOM 击穿后端。 2.动态容错与降级： o封装异常处理中间件，实现模型级动态降级策略（如 70B 模型超时自动切换至 8B 模型）。 o在 HTTP Header 中注入x-degraded标记，保障用户可用性优于体验。 3.主动健康检查： o开发独立的 sideCar 后台协程，实现语义级心跳机制（prompt: ping），自动识别并剔除“TCP通但推理卡死”的僵尸节点。 4.数据对接：对接后端推理引擎的/metrics端点，实时获取 GPU 负载数据。 【任职要求】 1.基础素质：计算机相关专业本科及以上学历，5年以上后端开发经验，具备扎实的计算机底层基础…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 3143 个北京技术研发岗位，其中 86 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 28K（25~75 分位），中位约 20K，最低 2K、最高 60K。

本岗位标注月薪 20K ~ 30K，高于该范围约 60% 的在招岗位。