岗位描述(节选)
【岗位职责】
1.负责Token资源全生命周期运营,涵盖自建、外采及多供应商模型资源的接入、分配、监控与优化,制定Token调度策略与流量分发机制,推动统一计量、计费、定价及账户密钥管理;
2.基于调用日志搭建效率度量与成本看板,分析资源浪费场景并持续优化“效果-成本”,设计套餐、额度与限流策略;协同产品、研发、销售、交付、财务等团队,支持报价、容量承诺、成本测算与经营复盘,构建可持续的Token运营体系。
【任职要求】
1.本科及以上学历,计算机、人工智能、数据科学等相关专业优先;
2.3年以上云计算、AI平台、资源运营、商业运营或供应商管理经验,有MaaS、AI Infra或大模型网关平台运营经验者优先;理解大模型推理、Token计费、OpenAI兼容API、TPM/QPS、多级限流、负载均衡、降级重试、Prompt Caching等机制;
3.熟练使用Excel、SQL、BI工具,……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。