岗位描述(节选)
简介:探索下一代大模型训练范式,从模型结构、训练策略、数据策略、算力利用率等角度切入,打造具有更强能力和更高潜力的基座模型。
1、设计更高效的模型结构,提高给定数据量、计算量、硬件资源、序列长度等约束下的模型能力和潜力,如长序列能力、记忆能力、推理能力等。
2、探索更科学的训练策略,对影响training dynamic的关键变量(如学习率、batchsize、初始化等)形成更科学的认知。探索更前沿的训练范式(如diffusion LLM,test-time scaling等具有潜力的技术),发现更高效和稳定的scaling路径。
3、研究模型结构和数据的耦合关系,优化分阶段训练范式。研究模型早期表现和能力上限之间的关系。
4、结合MLsys解决大规模训练和推理中遇到的卡点问题,实现算法和工程联合设计。
【任职要求】
1、熟悉NLP、LLM、MLsys、Optimization、OR、C……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。
本站当前在招 3158 个北京技术研发岗位,其中 86 个公开标注了薪资。按这些标注统计:月薪(税前)主流区间 12K ~ 28K(25~75 分位),中位约 20K,最低 2K、最高 60K。
在招岗位较多的企业:经纬恒润 590 个美团 313 个字节跳动 252 个理想汽车 244 个阿里巴巴集团 218 个
统计口径:求职者营地实时在招岗位的公开薪资标注,未标注者不计入;区间为 25~75 分位,非薪酬承诺。