岗位描述
1. 跟踪研判大模型推理引擎(vLLM、SGLang 等)及模型架构的学术界发展趋势,分析PD解耦、异构算力适配等关键技术路线的演进方向,为团队技术选型与研发规划提供决策依据;
2. 研究大模型微调、推理增强以及智能体相关前沿技术,提升模型在复杂任务场景下的推理与决策能力;
3. 开展大模型新型网络结构研究,重点关注混合专家模型、多头潜注意力等架构创新,研究其对推理引擎算子设计、显存管理和并行策略的影响,提升模型学习推理能力;
4. 分析研判移动云AI技术优化方向。包括但不限于:算子级优化、精度量化、KV Cache 多级池化管理、调度策略等,对标国内头部云厂商性能基准,明确各阶段的优化优先级与技术路线图。