岗位描述
岗位职责
1. 参与训推引擎架构与性能优化,方案设计、编码、测试方案设计与执行、性能画像等。
2. 参与大规模集群稳定性与资源效率提升。
3. 负责安全合规与工程化能力建设等。
4. 追踪前沿技术,并进行落地探索,包括但不限于友商方案比对、开源方案调研、阅读论文、性能数据分析等。
岗位要求
1. 本科及以上学历,硕士以上优先,计算机科学、人工智能、大数据等相关专业。
2. 具有人工智能、深度学习算法建模开发、模型训练推理经验优先录取。
3. 熟悉并行策略、通信优化、KVCache、任意一种加速器并能够进行性能Profiling、算子优化、算子融合等优先。
4. 熟悉开源推理引擎,比如vLLM、SGLang、TensorRT-LLM等、模型量化压缩技术优先。
5. 学习新知识能力强,独立发现解决问题能力强,具备较强的工程能力且有实际工程项目经验。