训练推理优化算法工程师

【工作职责】
面向智能驾驶和移动物理AI场景，搭建大规模分布式训练框架和系统，研发大模型推理加速技术。你将参与到以下工作中：
1、分布式训练框架的设计和深度优化，包括并行策略优化、模型计算与通信优化、数据读取优化，框架稳定性优化等；
2、研发分布式训练加速与自动化技术，包括AutoML、混合精度训练、低比特训练、分布式梯度压缩等技术，支持大模型算法、强化学习算法、端到端自动驾驶算法等，在PB级大数据规模下的高效训练；
3、研发大模型推理加速技术，包括投机采样、并行解码、量化压缩、KV-Cache优化等；
4、研发深度学习系统工具链，实现模型训练、量化、转换、测试的端到端自动化工作流，加速算法从研究到落地的转化；
5、与基础设施 & 高性能计算工程师协作，针对分布式训练系统和推理引擎进行协作优化；与嵌入式工程师协作，针对产品平台进行算法优化和部署。

【任职要求】
1、计算机科学、信息工程、电子工程、机器人等专业硕士及以上学历；
2、具备扎实的编程能力，熟练使用C++/Python进行开发；
3、熟练使用至少一种深度学习框架（Pytorch/Tensorflow等）；
4、熟悉常见的分布式训练框架、训练推理加速技术；
5、具备良好的编程风格习惯、文档撰写能力、团队协作和沟通表达能力。
加分项：
1、有ACM/ICPC竞赛经验；
2、有大模型训练/推理优化经验；
3、有Cuda编程经验；了解分布式训练系统、大数据计算框架原理。