算力模型优化专家/工程师

自有算力集群，搭建推理中转服务，对外提供LLM、多模态推理服务。目标：最大化单卡、集群 GPU 利用率，提升Token吞吐，降低闲置，保障推理服务稳定、低故障 工作职责 1. 负责 LLM、多模态模型推理系统调优，基于 vLLM、TensorRT-LLM、SGLang 等主流开源推理引擎做深度适配、参数调优、调度策略优化。 2. 负责推理侧量化方案选型、验证与落地：GPTQ、AWQ、FP8、INT4/INT8 量化，评估量化对精度、吞吐、显存占用的影响，输出上线可用的量化方案。 3. 优化推理核心链路：连续批处理、PagedAttention、KV Cache 管理、长上下文、投机解码、请求负载调度，设计合理的队列、限流、分片策略，解决流量波动下 GPU 资源浪费、排队、OOM 等问题。 4. 负责 GPU 集群推理服务的观测、瓶颈定位与故障排查：监控 GPU 显存、算力、SM 利用率、带…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 1614 个深圳技术研发岗位，其中 120 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 18K ~ 28K（25~75 分位），中位约 20K，最低 2K、最高 100K。