岗位描述
关于团队
我们是 Shopee SRA(Search、Recommendation、Advertising)Engineering & Architecture 的离线引擎工程团队,负责搜索、推荐和广告核心离线后端服务的建设与持续演进。团队覆盖样本系统、数据配送、离线资源调度、工作流编排和作业运维等方向,建设从数据生产、加工到交付的完整离线链路。
我们服务 SRA 样本数据、文本召回索引、向量召回索引等核心业务场景。其中,样本系统支撑搜索、推荐、广告全场景的样本生产与长期维护;数据配送平台保障关键离线数据及时、准确、稳定地交付至下游业务和在线系统。团队每日处理 PB 级数据,为算法迭代和线上业务运行提供可靠支撑。
团队致力于把复杂的离线数据处理需求沉淀为稳定、高效、可扩展的后端服务与基础设施,并持续优化资源调度、运行效率和系统稳定性。我们希望寻找既具备扎实后端工程能力、又愿意深入大规模数据处理场景的工程师,一起解决搜索、推荐和广告业务中的真实工程问题。
职位描述
1. 负责搜索、推荐、广告离线后端服务的设计、开发和持续演进,覆盖样本系统、数据配送、离线资源调度等核心能力。
2. 负责样本系统建设与维护,支撑搜索、推荐、广告全场景的训练与评估样本生产;面向生成式长序列等新型样本需求,建设用户序列独立存储、序列合并、加工、质量保障和交付能力。
3. 参与数据配送平台的设计、开发与持续优化,保障样本、索引及其他离线数据及时、准确、稳定、可追溯地交付至下游业务和在线系统。
4. 负责离线计算与资源调度能力建设,包括 Flink / Spark on Kubernetes 平台、资源调度与隔离、弹性扩缩容、运行监控和稳定性保障;持续优化大规模数据处理任务的执行效率与资源利用率。
5. 与算法及其他工程团队紧密协作,参与系统架构设计、技术方案评审、代码开发、测试验证、发布升级及线上问题排查,将业务需求沉淀为可复用、可演进的平台能力。
职位要求
1. 计算机相关专业本科及以上,3 年及以上后端、数据平台或分布式系统相关经验;
2. 具备扎实的后端工程能力,熟悉至少一种 Go、Java、C++ 或 Python 等编程语言,具备良好的数据结构、算法、操作系统、计算机网络和数据库基础。
3. 具备分布式后端服务或数据平台开发经验,能够独立完成服务设计、开发、测试、发布和运维;理解高可用、可扩展、可观测和性能优化等工程实践。
4. 熟悉离线数据处理与大数据生态,具备 Hadoop、YARN、Spark、Flink、Hive、Kafka 等一种或多种技术的实际开发经验。
5. 理解离线数据链路中的数据质量、任务依赖、幂等重跑、回补、Schema 演进和数据追溯等问题;有样本系统、用户行为序列、长序列数据处理、数据配送、索引构建或工作流编排经验者优先。
6. 有 Kubernetes、容器化平台、资源调度或大规模作业管理经验者优先;熟悉 Flink / Spark on Kubernetes 等离线计算平台者优先。
7. 具备良好的系统设计、问题分析和解决能力;具备责任心、协作意识,能够与算法及其他工程团队高效配合并持续推进问题解决。