岗位描述
岗位职责
- 负责将已训练完成的模型进行工程化部署与优化,使其满足边缘设备上的实时性、功耗与稳定性要求
- 针对不同硬件平台(如通用 CPU/GPU、SoC、MCU),选择并使用合适的推理运行时完成模型部署
- 在具备算力加速能力的 SoC 平台上,利用通用或硬件相关的推理 Runtime 实现高性能、低延迟推理
- 在算力受限的嵌入式或 MCU 平台上,使用轻量级推理框架或定制推理方案,实现可控、稳定的模型推理
- 通过模型结构调整、参数压缩、精度与算力权衡等手段,降低模型计算开销
- 分析模型在真实设备上的性能瓶颈(延迟、内存、功耗等),并进行针对性优化
- 与嵌入式团队协作,确保模型在不同硬件平台上的一致性与长期稳定运行
- 支持模型版本迭代与持续优化,保障产品级可用性
岗位要求
任职要求
- 本科及以上学历,计算机、电子工程、自动化、人工智能等相关专业
- 熟悉深度学习模型从训练到部署的完整推理流程
- 有在不同硬件平台上进行模型推理部署或性能优化的实际经验
- 理解 SoC 与 MCU 在算力、内存、功耗和实时性方面的差异及对应的部署策略
- 熟悉通用推理 Runtime 与硬件相关推理引擎的使用方式及工程取舍
- 具备扎实的工程能力,能够在真实设备上定位并解决性能与稳定性问题
---
加分项
- 有在 GPU / NPU SoC 平台上进行模型部署与加速的经验
- 有在 MCU 或强资源受限环境中进行模型裁剪、轻量化或定制推理的经验
- 有机器人、外骨骼或实时系统相关经验
- 有产品级模型长期运行与维护经验