岗位描述
岗位描述
1.大模型推理优化技术的研究、工程落地实验,包括但不限于,模型量化、模型蒸馏、模型压缩,token&上下文压缩、skill压缩、投机解码、并行解码等优化技术。
2.大模型推理框架的工程优化研究,包括但不限于(sglang、vllm、tensorrt-llm),follow最新的工程落地技术,结合实际的业务场景改进已有的开源框架。
3.大模型训练优化技术的调研,做大模型后训练环节(SFT、RL、AgenticRL)持续迭代和优化,和其他成员配合攻克大模型后训练相关的技术难题。
4.在大模型推理优化、训练优化方面产出相关的论文和开源代码贡献。
岗位要求
1.研究生及以上学历,计算机、人工智能相关专业
2.扎实的数学功底和编程能力,熟悉深度学习理论和算法。
3.精通C++、python等常见编程语言。
4.技术热情高,具备很强的技术驱动力和自我管理能力,具有探索和创新精神。
5.在ACM/ICPC的亚洲区以上的级别比赛获奖者优先
6.有重大开源项目贡献者优先。