大模型服务平台工程师(J12297)

1、作为团队核心工程师，主导运动健康垂类大模型推理服务平台的从0到1建设，独立负责从架构设计、性能优化到线上稳定性的完整技术链路； 2、设计并开发多模型统一接入网关，实现基于业务场景的智能路由、负载均衡与降级熔断策略； 3、负责 Context / KV Cache 管理与 Prefix 复用优化，支撑上层 Agent 场景的高效、低成本落地； 4、构建完整的推理服务可观测性体系，覆盖延迟监控、请求全链路 trace、成本归因与告警； 5、基于 vLLM / SGLang 等推理框架持续优化服务性能，探索 Prefix Caching、Speculative Decoding、量化部署等加速方案； 6、支撑 SLM / LLM / VLM 等多种模型形态的部署，管理 GPU 资源利用率与服务成本； 7、与算法研究员紧密协作，打通模型从训练产出到线上服务的完整链路； 8、跟进推理服务与大模型…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 21045 个北京岗位（全城各职能合计），其中 1782 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 12K，最低 1K、最高 300K。