岗位描述
岗位职责:
1.参与大语言模型及多模态模型的推理算法研究、模型部署和效果评测;
2.参与推理加速、显存优化、并行策略等方向的研究和原型开发;
3.分析模型在 GPU、NPU 等平台上的计算及通信瓶颈,协助提升端到端推理效率。
任职要求:
1.计算机、人工智能、数学等相关专业本科及以上应届毕业生;
2.熟悉 Python、PyTorch,具备良好的算法和编程基础;
3.熟悉 Transformer 架构及大模型训练、推理基本原理;
4.了解模型部署、推理优化及常见性能分析方法;
5.有完整的科研、课程、竞赛、实习或个人项目,具备较强的学习和实践能力;
6.加分项:模型量化、推理框架、CUDA/Triton、算子优化、分布式推理、高速互联、开源项目。