岗位描述(节选)
加入趋势 · 拥抱新世代
趋势科技 - 全球云端资安领航者 / 全亚洲最大软体公司 / 企业版图横跨五大洲 / 趋势全球研发基地在台湾
岗位说明
我们正在构建一个生产级的 GPU 加速 LLM 服务平台,以企业级规模支撑多个 AI 产品。你将负责设计、构建并运维为大语言模型提供推理服务的底层设施——从原生 Kubernetes 集群管理,到多 GPU 推理优化与自动伸缩。
任职要求
模型服务与推理
运维多模型的 LLM 服务基础设施
调优自动伸缩策略,在 GPU 成本与延迟 SLA 之间取得平衡
Kubernetes 与 GPU 基础设施
运维带有 NVIDIA GPU 节点的生产级 K8s 集群
处理 GPU 节点生命周期:NVIDIA 驱动安装
基础设施即代码
为 AWS/GCP 云编写并维护 Terraform/Terragrunt 模块
把平台组件与模型部署打包为 Helm c……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。