TeleAI-端侧工程/模型部署开发工程师

工作职责
1. 负责深度学习模型在端侧设备上的量化、优化、适配与工程化部署，推动模型在移动端、嵌入式设备及边缘计算平台高效运行；

2. 负责模型的PTQ/QAT、INT8/INT4 等低比特量化与推理优化，分析并解决量化过程中的精度损失、算子不支持、性能瓶颈等问题，持续优化模型的推理时延、内存占用和功耗；

3. 负责模型在主流端侧 AI 芯片及推理平台上的部署适配，包括但不限于ARM CPU、GPU、NPU/DSP 等异构计算平台，完成模型转换、算子适配、性能 Profiling 与优化；

4. 参与端侧推理工具链及工程能力建设，梳理模型转换、量化、编译、部署和性能评测流程，开发自动化工具并沉淀技术文档，提升模型部署效率和工程交付能力；

5. 与算法、系统及硬件团队协作，定位模型在端侧运行过程中的精度、性能及软硬件兼容问题，推动算法与硬件协同优化；

工作要求
1. 硕士及以上学历，计算机、电子信息、自动化、人工智能等相关专业；

2. 熟悉深度学习基础及模型推理流程，对模型量化、模型压缩和端侧推理优化有一定理解，有相关科研、项目或实习经验者优先；

3. 熟悉 PyTorch，了解 ONNX 等模型交换格式及模型转换流程，具备 Python/C++ 编程能力；

4. 了解至少一种主流端侧推理框架或芯片工具链，如ONNX Runtime、TensorRT、TFLite、MNN、NCNN、RKNN、SNPE/QNN、Core ML等，有实际部署经验者优先；

5. 熟悉 Linux 开发环境，具备较好的工程实现、性能分析和问题定位能力；

6. 具备良好的学习能力、逻辑分析能力和团队协作意识，对端侧 AI、高性能推理及模型压缩方向有持续兴趣。

加分项：

1.有LLM/VLM/CV 模型端侧量化与部署经验，熟悉 INT8、INT4、混合精度、KV Cache 优化等技术；

2.熟悉 PTQ、QAT、GPTQ、AWQ、SmoothQuant 等一种或多种模型量化方法；

3.有高通、联发科、瑞芯微、NVIDIA Jetson、华为昇腾等端侧/边缘 AI 平台的模型部署或性能优化经验；

4.有自定义算子开发、算子融合、异构计算、内存优化或推理框架开发经验；

5.有真实端侧产品、边缘设备或嵌入式 AI 项目的工程落地经验。