崗位職責
1、負責離線、實時數(shù)據模型(含ODS、DWD、DWS等層級)的設計、開發(fā)與實現(xiàn),搭建完善的數(shù)據監(jiān)控體系,及時排查并解決數(shù)據開發(fā)及運行過程中的各類技術問題。
2、深入對接業(yè)務需求,提供大數(shù)據技術解決方案,支撐現(xiàn)有業(yè)務數(shù)據處理需求,同時具備前瞻性,能應對未來業(yè)務快速增長帶來的海量數(shù)據處理挑戰(zhàn)。
3、提供面向業(yè)務方的報表、數(shù)據提取等數(shù)據服務;
任職要求:
1、計算機或相關專業(yè)本科及以上學歷,2年以上數(shù)據倉庫設計開發(fā)經驗;
2、具備較好的溝通能力、適應能力和理解能力;
3、有運營商經分、數(shù)據倉庫建模經驗者優(yōu)先;
4、精通Hive編程,能編寫復雜Hive SQL并具備性能優(yōu)化能力;熟悉Hadoop生態(tài)相關技術及實踐經驗,包括但不限于HDFS、MapReduce、HBase、Spark、Flink、Doris、Kafka、Zookeeper、Flume、DataX等;具備海量數(shù)據加工、處理與分析的實戰(zhàn)經驗。
5、深入了解大數(shù)據在不同場景下的讀寫業(yè)務流程及優(yōu)化原理,具備Hive/Spark/Flink等組件的性能調優(yōu)能力;能快速定位分布式系統(tǒng)中的數(shù)據延遲、計算瓶頸等問題并給出解決方案。
6、掌握至少一門主流編程語言(Java/Scala/Python/Shell等),能熟練運用其進行大數(shù)據相關腳本開發(fā)、任務調度及自動化工具實現(xiàn)。