岗位描述
岗位职责:
1、负责面向大语言模型的高性能推理系统性能优化,围绕矩阵乘、注意力、归一化等核心计算内核及量化开展瓶颈分析与优化;参与推理系统软件架构设计与工程化实现,提升系统可维护性、可测试性与可扩展性;参与多加速设备间的通信与计算重叠优化,持续提升吞吐、降低时延并提高硬件利用率。
2、面向大语言模型推理参与自研神经网络处理器的系统与软件架构设计和开发,围绕算子表达与扩展机制、数据类型、指令集/编程模型、存储层次、任务调度及编译映射提出方案,构建编译器、运行时、内核及开发调试等工具。
3、负责典型模型的适配、精度验证、性能评测和问题定位,搭建可复现的基准测试、性能分析及自动化测试体系,解决模型部署中的精度、性能、兼容性和稳定性问题。
4、为上层AI应用及智能体研发提供底层算力支持,包括推理环境搭建、模型与服务部署、资源配置、性能调优及疑难问题排查。
5、利用主流AI辅助开发工具参与代码理解、技术调研、方案验证、开发、测试和评审,并对AI生成结果进行适用性判断与严格校验。
6、编写和维护架构设计、接口说明、调优记录、测试报告等技术文档,与芯片架构、算法、智能体等团队协作完成交付。
任职要求:
1、计算机、软件工程、电子信息、微电子、自动化、人工智能或相关专业,硕士及以上学历。
2、熟练掌握C/C++或Python;熟悉数据结构与算法、操作系统、计算机体系结构,掌握常用调试与性能分析方法。
3、具备AI编译器、运行时、内核开发、高性能计算、分布式通信或复杂系统软件工程中至少一个方向的实际研发经验,能够独立分析并解决复杂工程问题。
4、理解深度学习模型的计算过程,了解Transformer、大语言模型的推理流程,以及量化、内存占用、计算与通信瓶颈等问题;能够从模型演进和软件生态角度分析神经网络处理器可编程性、扩展性与性能之间的取舍。
5、具备良好的软件工程素养,有大型系统软件设计、模块化、版本管理、自动化测试等工程化经验;有多节点或分布式系统开发经验者优先。
6、熟悉以下技术中的一项或多项者优先:PyTorch/ONNX;LLVM/MLIR、OpenAI Triton;CUDA/ROCm;NCCL/RDMA;主流大模型推理/服务框架,如vLLM、SGLang、TensorRT-LLM、LMDeploy等。
7、有使用Claude Code、Codex等AI辅助开发工具进行工程化开发的经验者优先;充分理解AI辅助的优势和局限性, 能够完成任务拆解、上下文组织、代码生成与审查、测试验证和结果复现,并对AI生成结果进行严格校验。
8、对AI芯片和系统软件有强烈兴趣与持续学习意愿,愿意深入编译、指令、访存、并行计算、数值精度等技术细节,具备较强的动手能力和自驱力。
9、具备良好的沟通协作和技术文档能力,能够围绕性能数据和实验结果清晰表达判断与结论。