锦鲤求职岗位描述
岗位职责
1、参与大模型（语言、多模态、生成式图像/视频模型）高性能推理系统的研发，探索服务层、推理层与算法层的协同优化；
2、负责大模型推理的全链路性能剖析（Profiling），深度优化系统吞吐，探索异构硬件的模型部署潜力；
3、跟进、复现并优化业界前沿的系统级加速技术，包括但不限于模型稀疏化（Sparsity）、量化（Quantization）、长文本加速、MTP、步数蒸馏以及分离式部署；（Prefill/Decode 分离）；
4、探索多模态融合模型的推理技术方案；优化大模型强化学习训练（如 PPO/GRPO）中的高频推理链路，提升整体迭代效率。
岗位要求
1、2027届本科及以上学历，计算机、软件工程、人工智能等相关专业 ；
2、熟悉大模型推理的底层机制与常见优化方案（如 KV Cache 管理、多卡并行拓扑、计算与访存边界分析等）；
3、熟悉 Python / C++，有 CUDA / Triton 开发经验，能编写或优化算子，或熟悉 NCU/NSYS 等系统性能分析工具；
4、具备良好的编码习惯以及代码 Debug 能力。
加分项 1、研究过 vLLM、SGLang、LightLLM、LightX2V、Verl 等至少一种开源框架的源码，或在相关开源社区有贡献（PR）经历。 2、在 ASPLOS、ATC、EuroSys、SC、PPoPP、SOSP、OSDI 等计算机系统与高性能计算会议，或 AI 领域相关学术会议发表过论文。