大模型量化工程师

团队介绍： 我们是京东云事业部AI Infra团队，致力于前沿的大模型技术创新与应用。我们专注于研发业界领先的大模型算法，构建极致高效的大模型训练与推理平台，提供高吞吐高可用、低成本低延迟的大模型服务。我们的核心使命是高效支持和驱动京东集团内外部的大模型业务生态及智能体应用，涵盖业界主流开源模型和京东自研模型的训练与推理服务。我们团队秉承技术驱动、创新为本的理念，为每一位成员提供广阔的成长空间和富有挑战性的项目。 1. 负责大语言模型及多模态模型的量化方案设计，应用PTQ、QAT等技术实现高效压缩与精度保持，奠定部署基础； 2. 主导量化模型在vLLM、SGLang等推理框架及英伟达、国产显卡等异构硬件平台的适配、集成与性能调优，保障稳定高效运行； 3. 开展模型级与算子级性能剖析，定位瓶颈与热点，开发定制化加速kernel，并研究应用Speculative Decoding等技术提升解…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 3324 个北京技术研发岗位，其中 86 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 28K（25~75 分位），中位约 20K，最低 2K、最高 60K。