岗位描述(节选)
【工作职责】
1、负责大模型的部署、优化和维护,包括但不限于:基于现有的硬件平台(GPU服务器等),进行算力评估和资源规划。搭建和维护GPU集群,进行算力资源的管理和监控。使用vllm、sglang、ollama等工具对大模型进行推理优化,提升模型推理速度和效率。监控模型运行状态,及时发现和解决问题。
2、研究和探索最新的大模型部署技术和优化方法,研究跟进模型量化等技术,以及提升模型推理速度的相关技术体系,在实际工作中落地。
3、负责算力调度管理平台产品的设计开发,持续跟踪业界算力调度管理平台方案,打造先进的算力调度平台产品。
【任职要求】
1、精通云原生、微服务架构,熟悉K8S、算力调度、分布式系统,有大型算力平台、云平台、资源调度平台研发经验。
2、熟悉Linux操作系统,具备扎实的编程基础,有Vibe Coding及前后端全栈能力者优先。
3、熟悉深度学习框架,如TensorFlo……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。
本站当前在招 1431 个杭州技术研发岗位,其中 60 个公开标注了薪资。按这些标注统计:月薪(税前)主流区间 20K ~ 32K(25~75 分位),中位约 28K,最低 5K、最高 90K。
在招岗位较多的企业:阿里巴巴集团 397 个云尖信息 144 个吉利控股 129 个海康威视 112 个蚂蚁集团 91 个
统计口径:求职者营地实时在招岗位的公开薪资标注,未标注者不计入;区间为 25~75 分位,非薪酬承诺。