大模型部署与测评工程师

1、负责模型从下载、转换、量化、部署、验收至上线的完整流程。 2、建立模型部署矩阵，覆盖模型、硬件、量化方式、推理引擎和并行策略。 3、 建立 Golden Set、保真度、性能、稳定性和协议兼容测试体系。 4、负责模型输出质量、工具调用、多轮对话、思考模式和多模态能力测试。 5、对比不同引擎、不同量化方案和不同硬件配置的实际效果。 6、维护模型上线门禁、版本回归和上线报告。 7、跟踪模型版本更新，组织重新评测和生产配方更新。 8、完成领导交办的相关工作。 【任职要求】 1、2 年以上大模型部署、模型评测、算法工程或 AI 平台经验。 2、熟悉 Hugging Face、模型权重转换、量化和推理服务部署。 3、熟悉 vLLM、SGLang 或 TensorRT-LLM 至少一项。 4、熟悉吞吐、TTFT、TPOT、并发、显存和错误率等指标。 5、能使用 Python 编写自动化评测和数据…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 3143 个北京技术研发岗位，其中 86 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 28K（25~75 分位），中位约 20K，最低 2K、最高 60K。

本岗位标注月薪 20K ~ 40K，高于该范围约 78% 的在招岗位。