岗位职责:
1. 负责设计和开发大数据处理系统,包括数据采集、清洗、存储、处理和分析等各个环节。
2. 维护现有的大数据平台,确保系统的稳定性和高可用性。
3. 对大数据处理流程进行性能调优,提升数据处理效率。
4. 参与数据仓库的设计与实现,构建高效的数据模型以支持业务需求。
5. 制定并实施数据质量管理策略,确保数据的准确性和一致性。
6. 持续关注大数据领域的新技术和新工具,评估其适用性并引入到项目中。
7. 编写相关的设计文档和技术文档,保证项目的可维护性和可扩展性。
任职要求:
1、本科以上学历,计算机相关专业。
2、3-5年的大数据开发相关工作经验。
3、熟练掌握Hadoop生态组件,如HDFS、MapReduce、YARN等;
4、熟悉实时计算框架,如Spark、Flink、Storm等。
5、熟练使用SQL,有较强的数据库操作能力,熟悉Hive、HBase、MySQL等数据库。
6、掌握Python或Java等编程语言。;
7、了解数据仓库设计原理及方法论,有ETL工具使用经验者优先,如Kafka、Flume等。
8、具备良好的沟通能力和团队协作精神,强烈的责任心和抗压能力,能够独立解决问题。
有政府项目工作经验优先