大模型推理infra工程师-27届蓝极星

岗位职责
vivo AI研究院致力于研发业界领先的人工智能技术，通过AI技术创新持续为全球5亿+vivo用户带来无处不在的惊喜和激动人心的智慧体验。在这里，你将有机会参与打造蓝心大模型的研发与应用，推动大模型在蓝心小v、AIOS等产品中的创新落地与持续优化

你将与我们一起专注于：
1、负责AI产品的云端系统的高可用架构设计与开发工作，提升系统可靠性，支撑海量并发；
2、建设大模型推理工程，打造分布式推理框架、模型压缩引擎，提升文本、语音、视觉等方向的推理效率。

岗位要求
1、博士学历，计算机、人工智能、电子工程等相关专业；
2、熟悉操作系统、体系结构、网络等计算机基础，具备扎实的编程功底，掌握C/C++/Python等一门编程语言；
3、深入理解GPU高性能计算技术，熟悉大模型推理主流技术包括PD分离、EP并行、kvcache分级分布式存储、投机解码等；
4、深入理解大模型推理相关模型量化、模型稀疏化技术，尤其是DeepSeek的MLA、DSA等核心技术；
5、对大模型推理通信优化有深入理解，尤其是EP并行、PD分离和kvcache分布式存储通信优化；
6、善于沟通，乐于合作，热衷新技术，具有钻研精神。
7、优选条件：
（1）熟悉Megatron、verl等大模型训练框架优先；
（2）熟悉TensorRT、VLLM、SGlang等推理引擎优先；
（3）熟悉CUDA编程、triton编译等异构计算技术优先；
（4）有AI工程落地经验或开源项目经历优先。