岗位描述
岗位职责:
1、负责大模型的二次开发,完成在不同平台上适配调优;
2、负责大模型的应用软件开发,优化大模型一体机中的软件功能;
3、负责AI模型算子库开发调试、分析算子效率,优化kernel性能;
4、负责人工智能编译器的开发与优化,优化异构算力协同推理引擎;
5、负责AI模型训练、推理性能瓶颈分析,根据给定的大规模分布式环境,拟定高效运行策略;
6、负责大模型微调与对齐,设计和开发大模型微调系统,根据硬件配置确定高效微调与对齐的解决方案。
任职要求:
1、具备优秀的编码能力,熟练掌握Python/Java/C++等一种或多种编程语言,能够独立编写大模型测试脚本优先;
2、熟悉主流大模型的结构框架与调用的底层算子,能够结合特点,分析性能瓶颈并进行调优优先;
3、熟悉知识向量库、检索增强生成,熟悉LangChain、Dify、Milvus等大模型应用开发软件,具备在大模型一体机场景下开发、优化大模型应用软件的能力优先;
4、熟悉主流深度学习编程框(PyTorch/TensorFlow),熟悉主流大模型训练推理框架(Megatron/vLLM/SGLang),了解其底层架构和实现机制,具备优化并行策略(TP/PP/DP/EP等)代码的能力优先;
5、熟悉大模型方向的研究和应用,具备大模型资源需求分析能力,掌握不同场景下典型大模型的部署策略优先;
6、有过人工智能加速算子开发经验,具备并行计算编程能力(如CUDA/Triton)优先。