端侧全模态大模型工程专家

【岗位职责】 1. 端侧语言模型 / 多模态模型 / 全模态模型推理部署； 2. 深入全模态模型双工异步工作流推理开发与优化； 3. 模型量化、KV Cache 管理与投机推理加速； 4. 分析硬件性能调优与内存管理； 5. 跟进主流芯片厂商技术栈演进； 【任职要求】 1. 了解主流模型架构，包括 Transformer 系列、LLaMA、Qwen、Whisper 等，能分析其计算与内存特点； 2. 熟悉TensorRT，了解llama.cpp、vllm、sglang框架； 3. 有Orin平台开发经验； 4. 了解投机采样（Eagle2/Eagle3/MTP）等推理加速思路，能够分析其对端侧延迟、内存和工程复杂度的影响； 5. 精通 C/C++/python； 6. 具备 异步多线程计算、内存管理优化 实战经验； 7. 熟悉 GPU OOM / 内存调优，能分析内存带宽与计算瓶颈； …… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 21045 个北京岗位（全城各职能合计），其中 1782 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 12K，最低 1K、最高 300K。