數據倉庫工程師崗位的基本職責(通用12篇)
數據倉庫工程師崗位的基本職責 篇1
職責:
1、負責大數據開發工作;
2、負責公司數據服務接口平臺的建設;
3、參與打造數據中臺內容的規劃、設計、開發工作,實現高質量數據的互通與共享; 4、參與數據模型體系構建及數據主題設計和開發,搭建離線、近線、實時數據公共層;
5、參與構建非結構化數據體系,進行網絡數據爬取,數據清洗,特徵挖掘,統計分析,並結合應用場景實現落地。
崗位要求:
1、本科以上學歷,計算機、數學、統計學等相關專業;
2、熟悉數據集成、數據倉庫、數據分析等全流程數據處理,具備開源或阿里大數據平臺實戰經驗,如hive/spark/Maxcompute;
3、熟悉數據治理體系,包括數據模型、數據標準、數據質量等;
4、熟悉常見的離線、實時、流式數據應用場景及架構;
5、至少掌握一門開發語言,Java/Python;
6、具備良好的溝通能力和設計文檔編寫能力;
7、懂數據挖掘、知識圖譜的構建者優先。
數據倉庫工程師崗位的基本職責 篇2
職責:
1.參與打造數據中心內容的規劃、設計、開發和優化工作,實現高質量數據的互通與共享;
2.參與數據模型體系構建及數據主題設計和開發,搭建離線、實時數據倉庫;
3.參與數據產品與應用的數據研發;
4.負責日常應用系統監控,發現異常問題及時分發,並跟進後續處理;
5.編寫Python程序,或ETL技術完成日常數據抽取和整理任務,可獨立進行數據分析;
崗位要求:
1.熟悉ETL開發、數據倉庫設計流程,熟悉Oracle, MS SQL Server 等主流數據庫,表結構設計,存儲過程編寫;
2.熟練掌握常用Linux命令,具備shell編程能力,熟練掌握Python編程語言
3.具有較強的語言表達和溝通能力,良好的團隊合作精神
4.邏輯思維能力強,對數據敏感,有較強學習能力和創新思維;
5.具有高度的責任感和敬業精神,能夠承受較大的工作壓力
數據倉庫工程師崗位的基本職責 篇3
職責:
1、負責金融行業數據倉庫開發工作
2、負責與多個應用對接的接口和框架設計
3、充分理解產品需求,能夠結合需求進行任務設計,完成詳細設計文檔的編寫。
崗位要求:
1. 從事數據倉庫及商業智能(BI)領域工作至少3年以上,熟悉數據倉庫模型設計方法論,並有實際的模型設計經驗,有大型數倉建設經驗優先;
2. 精通數據倉庫領域知識和管理技能,包括但不侷限於:元數據管理、數據質量、主數據管理、性能調優等;
3.有主流商業/開源ETL工具(Informatica、Datastage、Kettle等)使用經驗者優先;
4. 熟悉Hadoop生態相關技術並有相關實踐經驗,包括Hdfs、Map-Reduce、Hive、Hbase、Spark等,具備海量數據加工處理(ETL)相關經驗;
5. 熟練使用java語言,對微服務架構有一定了解;
6. 具有較強的團隊意識與良好的溝通能力及高度的工作責任感,熱愛技術,有很強的鑽研能力,樂於接受有挑戰性的任務;
7、有團隊管理經驗優先。
數據倉庫工程師崗位的基本職責 篇4
職責:
1、深入理解業務,瞭解需求和痛點,爲風控和業務部門提供數據支持;
2、針對業務需求,參與數據倉庫需求分析,制定ETL相關設計方案和開發計劃;
3、負責數據同步,數據整合清洗,以及數據質量的治理;
4、數據倉庫模型設計,分層體系構建,元數據管理監控以及權限控制。
任職資格:
1、重點院校統招本科及以上學歷,計算機基礎紮實;
2、具有2年以上金融貸款類業務經驗;
3、熟悉數據倉庫理論和數據庫建模,有redshift和AWS經驗優先;
4、精通pgsql/mysql等數據庫,精通sql語言,具有數據庫優化/sql優化相關經驗;
5、熟練掌握python/shell語言。
數據倉庫工程師崗位的基本職責 篇5
職責:
負責大數據數據倉庫的建設,根據數據倉庫及BI項目的需求,制定相關的設計方案和開發計劃;
參與數據的分析處理和數據統計內容的架構設計與研發;
組織項目組成員完成數據倉庫的開發和運維等;
負責公司數據規範、數據標準、數據指標梳理與定義;
協助技術人員完成數據管控平臺的搭建,完成數據規範管理體系到信息平臺的落地實施;
組織開展對數據平臺各模塊的內容進行培訓;
制定和審計業務系統數據數據庫模型設計規範;
任職資格:
有一定的互聯網數據倉庫經驗;
深入瞭解 Hadoop 生態系統,熟悉HBase、Hive、Storm、spark等大數據開發工具中一種或幾種;
具備大型數據倉庫架構設計、模型設計、ETL 設計的相關經驗;
關係型數據庫原理基礎紮實,熟悉 MySQL/PostgreSQL等的使用和調優;
有獨立設計數據倉庫經驗、熟悉數據倉庫相關理論知識者優先;
數據倉庫工程師崗位的基本職責 篇6
- 設計,開發分佈式存儲系統中本地存儲模塊,撰寫設計文檔,並對其他同事的代碼進行審查;
- 深度挖掘 CPU 與閃存設備的性能,將本地存儲模塊的響應速度和併發能力的提升到極致;
- 通過優化數據結構和算法,提升本地存儲模塊的緩存,壓縮,去重等功能的效率;
- 通過設計複雜的測試用例,完成本地存儲在故障場景下的可靠性驗證;
- 與測試和產品部門密切配合,不斷提升產品質量以及產品文檔化程度。
數據倉庫工程師崗位的基本職責 篇7
1、主要負責平臺的WEB全棧(前端)開發工作;
2、運用前端技術,實現體驗的良好傳達;
3、根據設計需求,分析給出前臺技術解決方案;
4、負責JavaScript腳本開發;
5、負責具有前瞻性的WEB開發技術的研究和應用;
數據倉庫工程師崗位的基本職責 篇8
1負責工廠相關食品的品質控制和技術管理;
2負責食品加工工藝的建設,並對整個生產過程中出現的質量問題提出建設性意見;
3負責質檢部相關管理工作;
4對提高和穩定質量提出建設性意見;
5其他相關事務。
數據倉庫工程師崗位的基本職責 篇9
職責:
(1)分析需求,完成相關數據抽取、數據清洗、數據探索、數據建模分析等工作;
(2)按要求完成數據分析報告、建模報告、數據報表等;
(3)對數據進行深度挖掘和建模,做運營和用戶等各方面分析,深度挖掘運營優化和用戶行爲特徵等,推動分析問題的解決,爲業務決策提供日常支持;
(4)與業務部門和技術部門對接,完成設計,編寫,維護和完善公司業務相關的算法。
(5)參與項目成果彙編,對相關結果進行解讀和彙報。
任職要求:
(1)大專以上學歷,統計、數學、計算機、軟件專業優先;
(2)熟練使用Python,Mysql語言,具有一定的工程能力,完善的文檔和註釋習慣。熟悉JupyterLab遠程代碼編寫環境,Linux常用命令。會使用R,Java,Scala等語言更佳。
(3)熟悉數據分析過程,能夠完成數據抽取、數據處理、數據建模、數據分析報告等任務;
(4)一定的數據挖掘/機器學習理論和技術基礎,瞭解常用的數據挖掘算法如:聚類模型、線性迴歸、邏輯迴歸、分類模型、決策樹模型等。
數據倉庫工程師崗位的基本職責 篇10
職責:
1、HPE、H3C、華爲等服務器硬件安裝和維護;
2、熟悉HPE、EMC、華爲等各品牌存儲,能獨立進行LUN映射及存儲故障解決;
3、熟悉服務器常用的RAID、SCSI技術;
4、對WINDOWS、LINUX等操作系統安裝、排錯;
5、協助業務部門做產品升級及方案制訂;
任職資格:
1、大專及以上學歷,計算機專業;
2、服務器相關行業具有三年及以上工作經驗,具有獨立服務器硬件故障判斷能力,對故障進行獨立解決,具有豐富的硬件安裝和維護經驗;
3、熟悉VMWARE、華爲、H3C等虛擬化技術及虛擬化軟件操作;
4、具有一定的網絡規劃及實施能力,具備網絡基本知識,可排查常見的網絡故障;
5、具備數據庫維護經驗更佳;
數據倉庫工程師崗位的基本職責 篇11
1、調整和優化中試生產工藝,確保生產工藝的穩定。
2、負責中試工藝規程、批記錄、部門管理性文件起草、修訂及培訓。
3、負責中試工藝驗證文件起草、修訂、培訓、執行。
4、負責中試工藝相關CR、偏差、CAPA等起草、跟蹤。
5、批指令單、限額領料/退庫單的準備,批記錄的領用、審覈和上交。
6、檢查車間SOP文件,若發現存在問題,及時發送至相應人員對文件進行更新。
7、負責車間GMP檢查,確保現場合規操作,符合GMP要求。
8、遵守公司規章制度,嚴格按SOP操作。
9、領導安排的其它工作。
數據倉庫工程師崗位的基本職責 篇12
職責:
1. 負責數據ETL開發,根據數倉層級結構及主題域劃分,規範清洗代碼,提供準確數據
2. 負責數據質量治理,發現異常業務邏輯或數據質量問題,推動業務優化及改善。
3. 負責數據開發需求評審、結合數據分析體系制定ETL清洗方案;
任職要求:
1. 一年以上數據倉庫ETL設計及開發經驗,有BI經驗者優先
2. 熟練使用 SQL,熟悉HQL常用內部函數,有一定的 HQL性能調優經驗優先
3. 具備數據倉庫架構設計、模型設計、ETL設計,調度的相關經驗優先;
4. 對數據敏感,有較強數據分析和解決問題能力;
5. 積極溝通,主動了解業務需求,願意嘗試新的技術領域。