锦鲤求职

Shopee

【MPI&D】高级AI工程师-数据采集

锦鲤会替你打开官网网申、按简历自动填表提交,你只需要在关键步骤确认。

岗位描述

团队介绍

Marketplace Intelligence and Data 团队的使命是建立先进的大规模数据和智能产品来促进Shopee电商业务的发展。团队负责Shopee电商数仓建设,商家与运营数据产品建设,全链路流量数据;商品算法,包括商品发布、管控、信息优化、SPU库及其比价业务;智能客服算法,包括店铺客服问答、商品导购、平台客服;营销算法,包括招商、选品、推荐算法,评价算法,用户画像;此外,还包括机器翻译,语音算法,图像算法,实人认证等基础AI能力。

岗位职责

1. 设计与构建分布式数据采集系统,支持全球范围的网页搜索、网页阅读和动态内容解析;

2. 探索与 Agent 架构协作的数据接口,让爬虫具备自主探索和语义理解能力;

3. 主导 AI 数据采集与质量体系的搭建,包括网页语料、图像/多模态素材、算法数据集的采集、过滤与加工;

4. 构建端到端的数据链路,支撑公司内部 LLM、AIGC 等 AI 模型的训练与持续优化;

5. 推进数据标准化与可观测性建设,确保数据链路高效、安全、可复用。

岗位要求

1. 本科及以上学历,计算机、软件工程或相关专业,3 年以上后端或分布式数据采集系统经验;

2. 精通主流编程语言(Python / Go / Java / Node.js 等),具备高并发或分布式架构经验;

3. 熟悉 HTTP/HTTPS、DNS、TCP/IP 等网络协议与网页加载机制;

4. 具备浏览器自动化(如 Playwright / Puppeteer / Selenium)与动态数据解析经验;

5. 熟悉任务调度、异步队列、消息系统(Kafka、Celery、Redis、RabbitMQ 等);

6. 理解关系型和非关系型数据库(MySQL、MongoDB、Elasticsearch、S3 等);

7. 强烈的工程责任感和数据敏感度,具备良好的代码规范和系统性思维。

加分项

1. 对 LLM、AIGC、训练数据链路有实践经验,了解数据标注、清洗与语料构建流程;

2. 熟悉海外内容生态(电商、资讯、社交、媒体类网站等);

3. 有云原生开发与部署经验(Kubernetes / Docker / Airflow / Argo);

4. 对 Web Intelligence / Agent 协作 / 数据自动获取等前沿方向具备浓厚兴趣;

5. 英语阅读能力良好,能适应国际化业务场景。

后端开发方向的申请准备

先核对岗位要求与自己的经历,再准备档案、投递和面试。

阅读求职步骤与示例 →