大數據開發工程師的主要職責精選
大數據開發工程師負責該領域所屬模塊的代碼開發、調試與維護工作,並進行技術沉澱和文檔輸出。下面是本站小編整理的大數據開發工程師的主要職責精選。
大數據開發工程師的主要職責精選1
職責:
1、負責公司項目應用監測數據,分析軟件大數據平臺的代碼開發;
2、負責大數據體系架構設計和應用產品的研究;
3、負責大數據平臺及應用場景的構建、部署、測試;
4、編寫軟件研發相關技術文檔;
5、編寫產品研發相關任務單計劃,階段性代碼、技術方案和軟件產品及時提交至配置管理理庫;
6、Spark程序的研發,sqoop腳本開發和商家用戶行爲等離線分析數據;
7、kudu,kylin等技術調研,編寫軟件研發相關技術文檔;
8、SUNMI數倉設計架構以及ETL流程開發;
9、建立多維度,多體系的用戶標籤體系以及用戶行爲數據庫。
崗位要求 :
1、本科以上學歷,4年以上?工作經驗,2年以上Hadoop平臺的相關研發經驗,具有良好的需求分析,方案設計,架構設計,程序編寫、測試能力;
2、熟悉J2EE或Python平臺開發,有良好的Java或Python語言功底;
3、瞭解Linux/Unix操作系統,瞭解腳本編程(Shell/Python其中一種);
4、具備數據中心資源管理(YARN)、監控(ClouderaManage)、調度(Azkaban)等系統研發經驗者優先,具備分佈式系統研發經驗者優先;
5、熟悉hadoop以及其?生態圈系統上的hive、hbase、sqoop、spark、spark-streaming等技
術,懂hadoop源碼者優先;
6、熟悉Kylin有OLAP平臺設計和開發經驗優先;
7、具有應用大數據技術處理TB級以上數據的項目開發經驗者優先;
8、有較清晰的代碼編寫規範,邏輯性強,工作態度認真,良好溝通能力和團隊合作精神。
大數據開發工程師的主要職責精選2
職責:
1、 負責基於Hadoop/Spark平臺架構的開發、設計和佈局 ;
2、 完成系統框架的設計和核心代碼的編寫;
3、 針對海量的用戶行爲數據進行統計、分析與挖掘,不斷提高系統運行效率;
4、 負責對數據進行分析,爲項目組提供大數據技術指導及分析手段支撐;
5、 負責大數據平臺的性能監控和持續優化;針對需求提供大數據分析技術解決方案 ;
6、 大數據平臺的運維工作,持續完善大數據平臺,保證穩定性、安全性;
7、 熟練使用大數據ETL數據抽取工具;
8、領導安排的其他工作。
任職資格:
1、 3年互聯網行業開發經驗,計算機或相關專業本科以上學歷;
2、 精通Hadoop大數據平臺架構,具有紮實的Java/Python等開發語言;並可以開發高效可靠的代碼;
3、 具有較強的數據分析、數據挖掘的能力;
4、 熟悉spark、Hive、storm等計算框架者優先,對分佈式存儲和計算原理有較深的理解;
5、 嚴密的數學思維、突出的分析和歸納能力、優秀的溝通表達能;
6、 個性開朗,對技術鑽研好學、邏輯思維能力強,溝通能力優秀,有團隊合作精神。
大數據開發工程師的主要職責精選3
職責:
1. 負責機票酒店大數據項目的評估、設計及關鍵模塊研發;
2. 參與公司大數據平臺及聯機分析系統的建設;
3. 機器學習算法討論、評估及算法的最終編碼實現;
4. 數據平臺開發規範制定,數據建模及核心框架研發;
任職要求:
1. 本科及以上學歷,計算機或數學相關專業,三年以上相關工作經驗;
2. 掌握Java、Python、Scala等 中的一到兩種語言;
3. 熟悉Mongodb、Hive、Hbase、Redis等NoSQL數據庫開發和調優;
4. 熟悉數據相關開源框架和工具,如ZooKeeper、Spark、Flink、Impala、Kylin 等;
5. 對數據結構和機器學習算法有一定的瞭解;
6. 具有海量數據處理、數據挖掘、數據分析相關項目的工作經驗者優先;
7. 有機票酒店等旅遊行業數據開發經驗者優先。
大數據開發工程師的主要職責精選4
職責:
1.負責公司環保大數據平臺的架構與搭建;
2.負責需求分析,根據客戶應用需求規劃大數據平臺架構;
3.負責將大數據平臺部署至私有服務器羣、私有云或公有云;
4.負責在企業內部進行數據平臺原型開發與數據實時交互、存儲性能測試;
5.負責與數據挖掘算法交互的架構設計與開發。
任職要求:
1.計算機相關專業,全日制本科以上學歷;
2.具有3年以上大數據相關應用開發經驗,有Java開發經驗更佳;
3.至少熟悉一種流行的大數據編程框架,如Spark,Storm,Flink等;
4.熟悉大數據生態圈常用技術如RocketMQ,Kafka,Flume,Zookeeper等;
5.熟悉Hadoop安裝、調試、發佈配置應用,熟悉Linux操作系統更佳;
6.至少熟悉TIDB,MySQL,SQLServer其中一種數據庫;
7.學習能力強,對技術有熱情,關注技術發展方向;
8.具有工業物聯網、智慧型環保項目背景者優先。
大數據開發工程師的主要職責精選5
職責:
1、負責公司大數據平臺建設;
2、根據業務需求,制定數據倉庫和數據分析平臺的實施和持續更新;
3、攻克技術難關,保證大數據系統的穩定運行;
4、完成大數據產品的開發。
職位要求:
1、計算機相關專業全日制專科及以上學歷,大數據相關經驗;
2、熟悉Java或Scala語言,熟悉Spark,Hadoop,Kafka,Hive,HBase,ZooKeeper等大數據相關技術;
3、精通SQL語句並對Redis,Mongodb等NoSQL數據庫有一定經驗;
4、對於高併發、高穩定可用性、性能、大數據處理有過實際項目產品經驗者優先;
5、責任心強,工作踏實,有團隊協作精神,溝通能力強者優先。