大模型推理优化工程师

【工作职责】
1. 负责多模态VLM模型以及VLA模型在车载芯片平台上的全链路优化与部署，支撑核心功能的量产落地；
2. 在异构算力芯片平台上定位和分析性能瓶颈，与算法团队合作改进模型设计，通过软硬件协同设计，提高计算效率，优化算法性能；
3. 负责研发大模型推理部署框架，提升大模型的计算性能和开发效率，构建业界领先的车载大模型部署能力。

【任职要求】
1. 本科及以上学历，计算机科学、电子信息、自动化等相关专业背景，熟悉计算机体系结构；
2. 具备3年以上AI模型部署及优化开发经验：
a. 了解深度学习基本原理，熟悉NN基本架构和典型OP的计算方式，熟悉至少一种主流深度学习框架，如TensorFlow/PyTorch等;
b. 熟悉至少一种大模型推理引擎，如MLC-LLM/TensorRT-LLM/vLLM/llamacpp等；
c. 熟悉典型的大模型推理优化技术，如压缩量化、计算并行、算子融合、投机采样、缓存管理等等。
3. 熟悉芯片体系架构，具有CPU(ARM/x86)，GPU（NVIDIA/Adreno/Mali)、DSP(TI/高通)中的1个或多个平台的高性能计算优化经验，掌握相应的编程接口或指令集，掌握相应的性能分析工具和调优方法；
4. 精通C++/Python编程语言，具备优秀的数据结构与算法基础，熟悉软件工程开发流程；
5. 具备良好的沟通能力，能够与跨职能团队高效协作。