锦鲤求职岗位描述
工作内容
1、负责AI模型量化压缩工具链开发，开展模型量化压缩算法优化、精度损失分析及调优工作，保障模型推理精度与性能平衡。
2、针对地平线BPU芯片，完成LLM、VLM、端到端自动驾驶、VLA等模型的量化压缩适配，负责对应模块需求设计、开发实现、问题定位与性能瓶颈优化。
3、设计迭代模型量化压缩方案，覆盖PTQ、QAT两大量化方向，开展权重量化、激活量化、KV Cache量化、混合精度量化等算法研发，搭建自动化量化及评估体系，定位并解决精度、性能损耗问题。
4、协同算法团队分析量化误差成因，输出模型结构、训练策略及量化友好优化方案，打通模型训练到部署的全链路优化。
5、跟踪模型量化、压缩、高效推理领域前沿技术，落地新算法、新方案，持续优化量化工具链与推理能力。
任职条件
任职要求
1、计算机、人工智能等相关专业，硕士及以上学历。
3、熟练使用Python、PyTorch、Transformers等工具与模型库，具备量化调优实操能力。
4、熟悉神经网络基础结构，了解LLM、VLM、VLA、自动驾驶等业务模型及量化、推理优化基础逻辑。
优先加分项
1、有地平线BPU、边缘NPU芯片模型量化适配、量产部署实战经验。
2、具备INT8/FP16/MXINT8/MXFP8混合精度、PTQ/QAT量化算法自研与落地经验。
3、熟悉TensorRT、vLLM、Triton、TVM等推理/编译框架，有二次开发与定制优化经验。
4、熟悉LLM/VLM部署优化，具备模型量化、稀疏压缩、KV Cache优化、推理加速等落地经验。