岗位描述
岗位职责
1. 研发多模态大模型、世界模型推理加速技术,包括蒸馏、投机采样、并行解码、量化压缩、KV-Cache优化等;
2. 负责端到端模型、物理AI大模型的量化算法研究与落地,包括但不限于PTQ、QAT 等;
3. 针对不同硬件后端设计并开发大模型低精度量化算法,支持FP4、FP8、INT8 等精度量化,优化模型计算量与DDR占用;
4. 研发与迭代大模型量化工具链,包括自动量化流程、精度分析工具、误差调试工具等;
5. 与高性能计算工程师协作,针对端/云不同业务场景的模型推理进行软硬协同优化。
岗位要求
1. 计算机科学、信息工程、电子工程、软件工程等专业本科及以上学历;
2. 具备扎实的编程能力,熟练使用C++/Python进行开发;
3. 深入理解模型量化原理与误差分析方法,熟悉大模型常见的推理优化技术;
4. 熟练使用 AI Coding、Agent 等工具进行数据处理、代码开发;
5. 有ACM/ICPC竞赛经验者优先。