职位描述
岗位描述:
1、负责大数据治理平台的设计及研发工作,如数据同步、ETL开发、元数据管理中心、数据质量管理中心、任务调度中心等平台系统;
2、负责参与项目需求分析,进行系统架构设计,编写技术文档;
3、负责参与数据存储引擎、计算引擎的架构方案设计,优化数据处理流程,提高数据处理效率和性能。解决大数据处理过程中的技术难题,对系统进行调优和维护;
4、负责根据业务需求进行数据建模和数据清洗工作,保证数据质量和准确性。
任职要求:
1、计算机相关专业本科以上学历,5年以上大数据相关开发经验;
2、深入理解数仓体系、数据中台体系建设理论,及数据模型构建理论和适用场景;
3、熟练掌握数据计算引擎技术,如Spark、Flink等,可以根据需求构建适合的ETL流程,根据数据特点、优化性能瓶颈;
4、精通分布式计算框架,掌握分布式计算的设计与优化能力,有Hive、Hbase、Kafka、Spark、Flink、clickhouse、Doris等开源组件的使用经验;
5、熟练掌握K8S、Istio、Docker等容器化技术的开发及应用,有实际部署和运维经验;
6、熟悉常用的编程语言(如java、python等),具有良好的编程规范;
7、具备较好的Java编码能力,有数据中台开发,数仓建模,数据质量管理等的相关经验;
8、有国产化数据的使用及开发经验者优先,具备快速学习开源组件的设计思想及源码解读,可快速进行二次开发,有参与大数据开源项目者优先;
9、具备良好的沟通能力和团队协作精神,能够与开发、测试、运维、业务等人员紧密合作;
10、对大数据技术和业务应用有持续的学习热情,关注业界最新技术发展,并愿意尝试将新技术应用到实际项目中。
以担保或任何理由索取财物,扣押证照,均涉嫌违法,请提高警惕