AI性能优化工程师

AI性能优化工程师

Base：杭州/上海

经验要求：应届/社招

学历要求：本科及以上

职责描述：

1.负责AI芯片落地实际推理，训练任务，根据芯片计算、通信特点，优化显存占用，提高吞吐

2.针对大语言模型、视频生成模型等训练推理场景，利用量化、算子优化、编译优化等技术，充分发挥TPU硬件性能潜力

3.根据深度学习框架输出的模型结构与参数，运用图优化技术对计算图优化处理，提升模型整体性能

4.与算子、编译器、算法研究及产品开发团队紧密合作，共同定位并解决跨栈技术难题

任职要求:

1.熟悉python语言，熟练掌握pytorch，tensorflow框架

2.了解常见AI编译器方案(XLA, TVM, MLIR)，AI compiler技术栈(MLIR等)，熟悉Torch2.0+ 编译栈

3.具备独立搭建、训练并对模型结构进行精细化调整的能力

4.熟悉常见深度学习模型结构及部署特性，Transformer，CNN等，熟悉大模型多机多卡并行优化技术，以及其他加速技术

5.了解GPU、NPU等异构硬件架构，有性能优化经验者优先