职位描述
-负责企业级数据湖仓平台的设计、开发与维护;
-负责湖仓内数据建模、数据加工、数据采集、分层设计等工作,保证数据质量与一致性;
-负责编写高性能ETL任务,维护Flink、Spark等计算任务的稳定运行;
-负责元数据管理、数据质量监控、数据血缘分析、权限系统的设计与开发;
-和业务方进行需求对接,完成业务数据到湖仓到使用的全链路工作;任职要求
-计算机、大数据等相关专业,本科及以上学历;
-精通Java、Python、Go等语言中一种或多种,具备良好的编码习惯;
-熟练掌握Spark、Flink、Kafka、Hive、Doris等大数据组件,深入理解端到端一致性及具体实现,具备实时湖仓开发经验;
-熟悉数据湖技术(如Iceberg)、湖仓分层、湖仓一体架构,深入理解ACID、Schema Evolution、Time Travel等核心特性及使用场景;
-具备良好的沟通协作能力,主动性强,能独立定位和解决问题;
-熟悉Iceberg、Flink、Doris等相关大数据组件源码者优先;
-有自动驾驶领域的湖仓数据平台开发经验者优先。