岗位描述
岗位职责
1、LLM 与 AIGC 推理引擎的开发与优化
2、LLM 与 AIGC 推理中间件开发与优化
3、LLM 与 AIGC 推理引擎在不同芯片上的适配与优化
4、LLM 与 AIGC 先进推理技术的探索与研究
5、LLM 与 AIGC 模型适配与优化
岗位要求
1、计算机相关专业本科及以上学历,具有扎实的计算机基础
2、熟悉 Python/C++,熟悉 PyTorch
3、了解常见的 LLM 与 AIGC 推理引擎
4、熟悉 LLM 与 AIGC 推理引擎关键技术,如算子优化、模型压缩与量化、分布式并行推理、推理引擎运行时、模型编译等
5、熟悉 GPU 或者其他加速芯片上的程序开发
6、熟悉 Transformer / Diffusion / DiT 等模型技术的原理与实现