岗位职责:
1.承担系统运维工作,包括确保企业系统的稳定运行、性能优化和故障排除;
2.负责数据基础架构和数据处理体系的升级和优化,不断提升系统的稳定性和效率,为公司的业务提供数据平台的支持和保证;
3.负责企业数据平台的架构设计和技术框架选型,包括集群部署、下游数据集市搭建、数据交换分区架构设计、数据湖或其他转换系统的搭建,确保数据平台的高效运转和数据流畅;
4.具备项目规划和决策能力,能够捕捉业务需求和架构设计中的问题,并提出有效的解决方案;
5.拥有较强的编码能力。设计和开发系统整体功能模块,主导项目的设计、模块划分和架构搭建工作;
6.研究未来数据模型和计算框架的创新和落地,参与制定并实践团队的技术发展路线;
7.对接数据治理相关工作。
任职要求:
1.拥有计算机、软件工程、信息技术、应用数学等相关专业本科及以上学历,具有2年以上相关工作经验;
2.具备大数据平台部署经验,了解CDH、TDH、华为等国内外大数据平台架构,能够独立部署大数据环境,独立部署大数据认证如Keyberos、LDAP等;
3.对整个数据流转链路有深刻认识,并具备完善的数据建模理论体系知识;
4.熟悉SQL,熟练使用ORACLE、MYSQL、HIVE等常规数据库,能够编
5.写高效的SQL语句和存储过程,具有基于Greenplum、Hadoop、 MapReduce、Hive、Storm、Spark、kafka及HBase等应用经验者优先;
6.熟悉任意一种ETL开发工具:KETTLE、Datastage、Informatic等,具备数据模型设计工具的使用经验;
7.负责数据模型设计和开发工作,开发、调试和维护存储过程、函数、包、ETL,进行SQL语句改写和性能优化;
8.具备出色的数据处理能力,包括但不限于Hadoop生态、Spark生态、kafka及Flink生态的数据处理和优化能力;
9.具有良好的技术选型能力,包括从数据集成、数据存储、数据计算到数据应用侧的组件技术选型;
10.具备数据治理能力,全面了解数据链路的数据质量和风险,能够提出并执行数据治理方案,确保数据链路的稳定性和数据质量。