AI模型适配与部署优化工程师

工作职责
1.负责深度学习模型在 Android、Linux及嵌入式设备上的转换、适配、部署和性能优化；

2.负责模型从 PyTorch/ONNX 到 MNN、ONNX Runtime、ncnn、QNN、RKNN、TensorRT 等后端的落地；

3.解决算子兼容、动态形状、精度偏差、量化误差、内存占用及运行时稳定性问题；

4.开展 FP32/FP16/INT8、权重量化、混合精度、图优化、算子融合及校准验证；

5.针对 CPU、GPU、NPU/HTP 等硬件进行性能分析，优化数据拷贝、内存复用、线程调度和端到端时延；

6.开发模型转换、精度对齐、性能测试和设备验收工具，建立可复现的模型交付流程；

7.与 SDK 团队协作，将模型封装为标准化 C++ 插件，并支持音频、视频、图像等实时任务。

工作要求
1.硕士及以上学历，计算机、人工智能、电子信息等相关专业；

2.熟悉 PyTorch、ONNX及常见模型导出、转换和图优化流程；

3.熟练使用 Python，具备良好的 C/C++ 工程开发能力；

4.熟悉至少一种端侧或硬件推理框架，如 TensorRT、QNN、RKNN、MNN、ncnn 或 ONNX Runtime；

5.理解卷积、Transformer、量化、张量布局、算子实现和数值精度等基础原理；

6.能使用 profiling 工具定位 CPU/GPU/NPU、内存和数据传输瓶颈；

7.具备真实设备部署、问题定位和精度/性能验收经验。

加分项

1.有 CUDA Kernel、TensorRT Plugin、ARM NEON、OpenCL或Vulkan Compute 优化经验；

2.熟悉高通 HTP/NPU、Rockchip RK3588、NVIDIA GPU/Jetson 等硬件平台；

3.有模型剪枝、蒸馏、稀疏化、PTQ/QAT 或大模型端侧部署经验；

4.有音频编解码、视频压缩、计算机视觉或流式模型部署经验；

5.能建立模型效果、精度、时延、吞吐、功耗和内存的系统化评测体系。

专业要求
计算机、人工智能、电子信息