MaaS 架构师

【岗位职责】 作为 MaaS 架构师，你将全面负责大模型线上服务的全链路架构设计与质量保障，构建高性能、高可用、可弹性伸缩的模型服务平台，确保模型在生产环境中的 SLA、延迟、吞吐量达到业界领先水平。工作包括不限于： -负责 MaaS 平台架构设计，明确模型从产出到上线的全链路环节，对模型服务的 SLA、延迟、吞吐量等核心指标负责 -主导大模型推理网关的设计与建设，包括多模型路由、流量调度、优先级队列、多租户隔离与 Token 级计量能力 -设计 GPU 资源弹性伸缩策略，结合模型特征与负载信号实现智能调度与资源高效利用 -推动 KV Cache 感知调度的方案设计与落地，包括 Prefix Caching、Paged Attention 等技术在生产环境的应用，提升显存利用率与系统吞吐 -参与单机推理框架的选型、适配与性能调优，跟进 vLLM / TensorRT-LLM / SGLan…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 3032 个上海技术研发岗位，其中 100 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 23K（25~75 分位），中位约 20K，最低 4K、最高 100K。