锦鲤求职岗位描述
工作内容
1. 深入大模型推理软件栈，负责Prefill与Decode阶段的全链路性能分析、瓶颈定位及极致优化，提升单卡及集群推理吞吐与延时表现；
2. 负责推理引擎（如vLLM, SGLang）的二次开发与定制化优化，构建高性能、低延时的推理服务系统；
3. 跟踪并研究业界前沿的推理加速技术，持续提升线上推理系统的资源利用率与服务质量。
任职条件
1. 硕士及以上学历，计算机科学、电子信息、自动化或相关专业，5年以上相关经验；
2. 熟悉vLLM 或 SGLang 推理框架，深入理解其原理，具备针对特定硬件（国产加速芯片）进行算子适配与性能优化的能力
3. 熟悉CUDA/CANN编程及GPU/NPU架构，具备Kernel级优化经验，熟悉显存管理、计算图优化及算子融合技术；
4. 深入理解大模型的推理负载特性，熟悉KV Cache管理机制及主流高性能推理库的实现原理；
5. 具备优秀的问题拆解能力与技术自驱力，能够主动发现性能瓶颈并提出系统性解决方案；
6. 熟悉分布式推理架构及相关通信优化者优先；
7. 具备实际的大模型推理加速落地经验者优先。