大數據開發工程師的主要職責精選

來源:瑞文範文網 1.32W

大數據開發工程師負責該領域所屬模塊的代碼開發、調試與維護工作,並進行技術沉澱和文檔輸出。下面是本站小編整理的大數據開發工程師的主要職責精選。

大數據開發工程師的主要職責精選

大數據開發工程師的主要職責精選1

職責:

1、負責公司項目應用監測數據,分析軟件大數據平臺的代碼開發;

2、負責大數據體系架構設計和應用產品的研究;

3、負責大數據平臺及應用場景的構建、部署、測試;

4、編寫軟件研發相關技術文檔;

5、編寫產品研發相關任務單計劃,階段性代碼、技術方案和軟件產品及時提交至配置管理理庫;

6、Spark程序的研發,sqoop腳本開發和商家用戶行爲等離線分析數據;

7、kudu,kylin等技術調研,編寫軟件研發相關技術文檔;

8、SUNMI數倉設計架構以及ETL流程開發;

9、建立多維度,多體系的用戶標籤體系以及用戶行爲數據庫。

崗位要求 :

1、本科以上學歷,4年以上?工作經驗,2年以上Hadoop平臺的相關研發經驗,具有良好的需求分析,方案設計,架構設計,程序編寫、測試能力;

2、熟悉J2EE或Python平臺開發,有良好的Java或Python語言功底;

3、瞭解Linux/Unix操作系統,瞭解腳本編程(Shell/Python其中一種);

4、具備數據中心資源管理(YARN)、監控(ClouderaManage)、調度(Azkaban)等系統研發經驗者優先,具備分佈式系統研發經驗者優先;

5、熟悉hadoop以及其?生態圈系統上的hive、hbase、sqoop、spark、spark-streaming等技

術,懂hadoop源碼者優先;

6、熟悉Kylin有OLAP平臺設計和開發經驗優先;

7、具有應用大數據技術處理TB級以上數據的項目開發經驗者優先;

8、有較清晰的代碼編寫規範,邏輯性強,工作態度認真,良好溝通能力和團隊合作精神。

大數據開發工程師的主要職責精選2

職責:

1、 負責基於Hadoop/Spark平臺架構的開發、設計和佈局 ;

2、 完成系統框架的設計和核心代碼的編寫;

3、 針對海量的用戶行爲數據進行統計、分析與挖掘,不斷提高系統運行效率;

4、 負責對數據進行分析,爲項目組提供大數據技術指導及分析手段支撐;

5、 負責大數據平臺的性能監控和持續優化;針對需求提供大數據分析技術解決方案 ;

6、 大數據平臺的運維工作,持續完善大數據平臺,保證穩定性、安全性;

7、 熟練使用大數據ETL數據抽取工具;

8、領導安排的其他工作。

任職資格:

1、 3年互聯網行業開發經驗,計算機或相關專業本科以上學歷;

2、 精通Hadoop大數據平臺架構,具有紮實的Java/Python等開發語言;並可以開發高效可靠的代碼;

3、 具有較強的數據分析、數據挖掘的能力;

4、 熟悉spark、Hive、storm等計算框架者優先,對分佈式存儲和計算原理有較深的理解;

5、 嚴密的數學思維、突出的分析和歸納能力、優秀的溝通表達能;

6、 個性開朗,對技術鑽研好學、邏輯思維能力強,溝通能力優秀,有團隊合作精神。

大數據開發工程師的主要職責精選3

職責:

1. 負責機票酒店大數據項目的評估、設計及關鍵模塊研發;

2. 參與公司大數據平臺及聯機分析系統的建設;

3. 機器學習算法討論、評估及算法的最終編碼實現;

4. 數據平臺開發規範制定,數據建模及核心框架研發;

任職要求:

1. 本科及以上學歷,計算機或數學相關專業,三年以上相關工作經驗;

2. 掌握Java、Python、Scala等 中的一到兩種語言;

3. 熟悉Mongodb、Hive、Hbase、Redis等NoSQL數據庫開發和調優;

4. 熟悉數據相關開源框架和工具,如ZooKeeper、Spark、Flink、Impala、Kylin 等;

5. 對數據結構和機器學習算法有一定的瞭解;

6. 具有海量數據處理、數據挖掘、數據分析相關項目的工作經驗者優先;

7. 有機票酒店等旅遊行業數據開發經驗者優先。

大數據開發工程師的主要職責精選4

職責:

1.負責公司環保大數據平臺的架構與搭建;

2.負責需求分析,根據客戶應用需求規劃大數據平臺架構;

3.負責將大數據平臺部署至私有服務器羣、私有云或公有云;

4.負責在企業內部進行數據平臺原型開發與數據實時交互、存儲性能測試;

5.負責與數據挖掘算法交互的架構設計與開發。

任職要求:

1.計算機相關專業,全日制本科以上學歷;

2.具有3年以上大數據相關應用開發經驗,有Java開發經驗更佳;

3.至少熟悉一種流行的大數據編程框架,如Spark,Storm,Flink等;

4.熟悉大數據生態圈常用技術如RocketMQ,Kafka,Flume,Zookeeper等;

5.熟悉Hadoop安裝、調試、發佈配置應用,熟悉Linux操作系統更佳;

6.至少熟悉TIDB,MySQL,SQLServer其中一種數據庫;

7.學習能力強,對技術有熱情,關注技術發展方向;

8.具有工業物聯網、智慧型環保項目背景者優先。

大數據開發工程師的主要職責精選5

職責:

1、負責公司大數據平臺建設;

2、根據業務需求,制定數據倉庫和數據分析平臺的實施和持續更新;

3、攻克技術難關,保證大數據系統的穩定運行;

4、完成大數據產品的開發。

職位要求:

1、計算機相關專業全日制專科及以上學歷,大數據相關經驗;

2、熟悉Java或Scala語言,熟悉Spark,Hadoop,Kafka,Hive,HBase,ZooKeeper等大數據相關技術;

3、精通SQL語句並對Redis,Mongodb等NoSQL數據庫有一定經驗;

4、對於高併發、高穩定可用性、性能、大數據處理有過實際項目產品經驗者優先;

5、責任心強,工作踏實,有團隊協作精神,溝通能力強者優先。

熱門標籤