岗位描述
岗位职责
1、参与大数据ETL开发和优化,离线数据或实时数据接入的开发。对实时和离线的数据采集,处理和存储,方案设计及数据规范标准制定;
2、持续进行大数据数据体系优化,功能优化、性能优化、数据资产优化等,提升数据存储和计算资源利用率; 数据质量、链路稳定性建设,对复杂数据链路的性能调优与成本治理。
3、根据业务需求进行数据模型的调研、设计、开发及验证工作,并持续进行模型的优化,基于业务逻辑构建数仓体系;
4、与业务团队紧密合作,构建全面、精准反映业务状况及风险的指标体系,基于监控指标体系及时发现业务问题;
岗位要求
1、本科及以上学历,计算机、通信、数学等相关专业优先,java、python至少掌握一种开发语言、熟悉SQL,具备扎实的数据结构和算法基础;
2、 5年以上大数据(实时/离线)真实项目开发经验,参与过实际大数据应用项目开发、交付,具备清晰的大数据应用系统思路;
3、熟悉数据中台,数据挖掘、数据治理、指标管理、特征分析和消息队列等知识;
4、熟练使用关系数据库和非关系数据库;
5、熟悉数据仓库建模理论、模型设计、ETL设计思路,熟悉数据仓库数据分层架构,精通维度模型设计;
6、熟练使用各种大数据生态的常用组件, 如:hadoop、hive、spark、canal、doris、flink、kafka、redis、ELK等;
7、具备良好的沟通和团队协作能力,做事主动积极,有技术激情和追求,具备强烈的主人翁意识。
有如下经验者优先:
1、理解机器学习 / 大模型训练的数据需求(样本格式、特征工程、数据标注),具备 AI 工具(如自动化标注平台、特征工程框架)应用或二次开发经验;了解 LLM 在数据治理、数据生成中的应用场景者;
2、有 AI 公司(大模型、机器学习平台、智能产品)数据供给或数据 AI 化改造项目经验者;
3、有熟悉SAP,知识图谱构建或隐私计算实践经验者;