岗位描述
一. 岗位职责
1、承担模型部署SDK开发工作,支持Nvidia平台及国产平台应用;
2、承担模型量化、剪枝等模型优化工作;
3、承担模型部署算子开发及性能优化工作;
4、承担部署流程中,CPU计算的优化工作,降低CPU负载;
5、承担典型CPU算子开发和优化工作,降低CPU耗时;
6、承担模型部署和感知模块性能评估工具链开发;
7、承担感知pipeline工程优化,包括内存分配、时延优化等;
二. 任职资格
1、熟练掌握Pytorch等深度学习框架;
2、熟悉常见的深度学习模型(如CNN、RNN、Transformer等)及其应用场景;
3、熟悉TensorRT等部署框架;
4、有CUDA、OpenCL等GPU并行计算框架使用经验,具备典型算子开发和优化能力;
5、有OpenMP、CPU指令集等CPU并行计算架构使用经验,具备典型计算模块开发和优化能力;
6、有模型优化经验,掌握模型量化、模压缩、内存优化、性能调优等方面的工程经验;
7、熟悉容器化技术,具备服务化部署经验;
8、计算机科学、人工智能、软件工程、电子工程等相关专业本科及以上学历;