岗位描述
岗位职责
1. 核心技能(满足以下任一方向即可,兼备者优先):
(1)具备大模型推理优化经验:熟悉SGLang、vLLM、TensorRT-LLM等框架,对Continuous Batching、PagedAttention、量化(GPTQ/AWQ)等有源码级开发或改造经验。
(2)具备分布式训练优化经验:熟悉Megatron-LM、DeepSpeed、深入理解3D并行、ZeRO、FP8训练等优策略;
(3)熟悉大模型推荐系统:掌握分布式推荐 embedding 系统和大模型推荐架构,了解推荐场景训推优化。
2. 解决大模型算法训练和推理部署瓶颈,助力大模型在各业务真实应用突破;
3. 参与大模型推理加速开源贡献工作,前沿系统技术跟进分析;
4. 具备工程落地能力,有主导或参与系统级训推框架的设计与开发经验者加分。
岗位要求
1. 博士学历,计算机、信息、通信、信号类及相关专业;
2. 对大模型加速领域保持好奇和持续探索, 在高性能计算/大模型训推等方面拥有顶会或知名开源项目优先;
3. 具备问题分析/定位能力,算法创新能力,以及良好的沟通/团队协助能力;
4. 熟悉计算机操作系统,异构架构,并行计算,有实际 Kernel 开发优化经验优先;
5. 对 SGLang/vLLM/Megatron 等大模型训练推理加速框架熟悉/有开发优化经验优先。