岗位描述
岗位职责:
基于MLU构建异构并行通信库, 面向未来低时延、高带宽的计算通信需求,实现高性能设备通信加速库;
大规模分布式训练中多机计算、通信和训练性能的优化。
任职要求:
本科及以上学历,计算机,软件工程,通信等相关专业;
熟练掌握 C/C++,有扎实的编程基础、良好的编程风格和工作习惯;
熟悉 Python/Shell 等脚本语言;
具有良好的团队协作精神,责任心强,能够积极主动地完成相关工作。
满足以下一种或多种条件者优先:
具备并行程序开发经验,了解 CUDA, OpenMPI, NCCL 等并行程序开发和性能调优经验;
掌握计算机系统结构知识和指令流水,有 Pipeline 优化经验;
有集合通信算法开发,网络编程,RDMA 编程相关经验;
了解 Pytorch/Megatron-LM 等框架分布式执行方式 。
注:本岗位设置笔试环节,请留意邮件或短信通知。