大模型部署与推理优化工程师

【岗位职责】 负责语音助手、AI 问答、Agent、多模态等大模型的部署、上线及线上稳定性保障。 负责 vLLM、SGLang、TensorRT-LLM 等推理框架的部署与性能优化，提升吞吐、降低推理成本。 参与 GPU 集群及 AI Infra 建设，基于 Kubernetes、Docker 等技术搭建自有大模型推理基础设施。 负责模型量化、显存优化、推理加速等工作，持续提升 GPU 利用率和服务性能。 负责线上服务的监控、故障排查及稳定性优化，协同算法团队完成模型压测和上线。 【任职要求】 本科及以上学历，计算机相关专业。 熟悉 Linux、Python/Shell、Docker、Kubernetes，有 GPU 集群或 AI Infra 相关经验。 熟悉 vLLM、SGLang、TensorRT-LLM、LMDeploy 等一种或多种推理框架，有实际部署经验。 理解 Transfo…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 10917 个深圳岗位（全城各职能合计），其中 946 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 22K（25~75 分位），中位约 16K，最低 2K、最高 100K。