大數(shù)據(jù)架構(gòu)師工作職責(zé)
明確的職責(zé)可以減少工作扯皮現(xiàn)象的發(fā)生,因為每個員工都清楚自己的職責(zé)范圍和工作任務(wù)。大數(shù)據(jù)架構(gòu)師工作職責(zé)要怎么寫?接下來給大家?guī)泶髷?shù)據(jù)架構(gòu)師工作職責(zé),方便大家學(xué)習(xí)。
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇1
職責(zé):
1、負(fù)責(zé)公司的大數(shù)據(jù)處理框架的研發(fā)設(shè)計工作,梳理可實現(xiàn)方案和技術(shù)規(guī)范;
2、開發(fā)、完善公司大數(shù)據(jù)平臺;參與公司離線、實時大數(shù)據(jù)處理系統(tǒng)的設(shè)計、開發(fā)、測試及多個業(yè)務(wù)模塊的自動化集成;
3、負(fù)責(zé)業(yè)務(wù)平臺數(shù)據(jù)統(tǒng)計分析模塊的設(shè)計與規(guī)劃;
4、負(fù)責(zé)公司產(chǎn)品研發(fā)過程中的數(shù)據(jù)及存儲設(shè)計;
5、帶領(lǐng)和培養(yǎng)團隊完成組織分解的目標(biāo);
任職要求:
1、統(tǒng)招本科及以上學(xué)歷,計算機、軟件工程相關(guān)專業(yè),至少8年以上工作經(jīng)驗,5年以上大數(shù)據(jù)開發(fā)經(jīng)驗;
2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相關(guān)技術(shù)的基礎(chǔ)架構(gòu)
3、熟悉數(shù)據(jù)倉庫,數(shù)據(jù)算法,分布式計算技術(shù)理論,具有大數(shù)據(jù)整體系統(tǒng)架構(gòu)設(shè)計經(jīng)驗;
4、熟悉Linux系統(tǒng),熟練使用shell/perl/python腳本處理問題;
5、對深度學(xué)習(xí)框架(Tensorflow)和機器學(xué)習(xí)(svm隨機深林貝葉斯等)有一定了解的優(yōu)先;
6、能夠組織項目開發(fā)組協(xié)同工作,包括團隊溝通、計劃、開發(fā)環(huán)境管理等
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇2
職責(zé):
1、負(fù)責(zé)大數(shù)據(jù)平臺的架構(gòu)設(shè)計、核心代碼開發(fā)等任務(wù);根據(jù)項目要求編寫相關(guān)技術(shù)文檔;
2、負(fù)責(zé)大數(shù)據(jù)平臺的架構(gòu)評審,代碼評審,上線評審;參與數(shù)據(jù)應(yīng)用需求、設(shè)計、審核和評審;
3、負(fù)責(zé)核心模塊研發(fā),負(fù)責(zé)大數(shù)據(jù)平臺的搭建,完成系統(tǒng)調(diào)試、集成與實施;
4、負(fù)責(zé)建立和維護大數(shù)據(jù)平臺技術(shù)標(biāo)準(zhǔn)規(guī)范,指導(dǎo)開發(fā)人員編寫代碼;
任職要求:
1、本科及以上計算機相關(guān)專業(yè)畢業(yè);
2、精通離線和實時數(shù)據(jù)處理流程,掌握離線數(shù)據(jù)處理框架hive、impala、spark-sql等,掌握實時數(shù)據(jù)處理常用技術(shù)工具,包括Storm、SparkStreaming等;
3、熟悉大數(shù)據(jù)技術(shù)生態(tài)圈,精通大數(shù)據(jù)技術(shù)架構(gòu),有大數(shù)據(jù)平臺構(gòu)建經(jīng)驗;
4、掌握常見數(shù)據(jù)流接入工具,包括Flume、kafka等;
5、熟練掌握基本的Linux操作系統(tǒng)和某種腳本語言編程(如Shell等);
6、掌握一種或以上實時處理語言,如JAVA、SCALA、PYTHON等,有SCALA經(jīng)驗者優(yōu)先;
7、有實際大規(guī)模數(shù)據(jù)(TB級以上)處理經(jīng)驗優(yōu)先;
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇3
職責(zé):
1.負(fù)責(zé)整個大數(shù)據(jù)平臺架構(gòu)的設(shè)計和構(gòu)建;
2.負(fù)責(zé)構(gòu)建大數(shù)據(jù)平臺的數(shù)據(jù)交換、任務(wù)調(diào)度等通用平臺;
3.制定開發(fā)、測試、實施、維護的標(biāo)準(zhǔn)和規(guī)范,指導(dǎo)和培訓(xùn)工程師,不斷提升團隊能力。
4.參與系統(tǒng)需求分析、架構(gòu)設(shè)計、技術(shù)選型、應(yīng)用設(shè)計與開發(fā)以及測試與部署,負(fù)責(zé)編寫核心部分代碼。
5.持續(xù)挑戰(zhàn)新的技術(shù)方向,攻克大數(shù)據(jù)量、高并發(fā)、高可用、可擴展等技術(shù)難點。
任職要求:
1.3年以上大數(shù)據(jù)架構(gòu)經(jīng)驗,豐富的數(shù)據(jù)倉庫、數(shù)據(jù)挖掘、機器學(xué)習(xí)項目經(jīng)驗
2.大規(guī)模數(shù)據(jù)處理的架構(gòu)和設(shè)計實戰(zhàn)經(jīng)驗
3.精通Spark、MR,熟練HDFS、Yarn、Hbase、Hive、MongoDB,熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等,并具有豐富的大型數(shù)據(jù)平臺工程經(jīng)驗
4.深刻理解大數(shù)據(jù)處理(流計算,分布式計算,分布式文件系統(tǒng),分布式存儲等)相關(guān)技術(shù)和實現(xiàn)方法
5.熟悉主數(shù)據(jù)、元數(shù)據(jù)、數(shù)據(jù)質(zhì)量等企業(yè)數(shù)據(jù)管理相關(guān)的體系和方法,熟練Linux/Unix平臺上的開發(fā)環(huán)境
6.本科或以上學(xué)歷,計算機軟件或相關(guān)專業(yè),豐富的java開發(fā)經(jīng)驗和互聯(lián)網(wǎng)背景優(yōu)先。
7.具有比較強的問題分析和處理能力,有比較優(yōu)秀的動手能力,熱衷技術(shù),精益求精
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇4
職責(zé):
1.負(fù)責(zé)產(chǎn)品級業(yè)務(wù)系統(tǒng)架構(gòu)(如業(yè)務(wù)數(shù)據(jù)對象識別,數(shù)據(jù)實體、數(shù)據(jù)屬性分析,數(shù)據(jù)標(biāo)準(zhǔn)、端到端數(shù)據(jù)流等)的設(shè)計與優(yōu)化。協(xié)助推動跨領(lǐng)域重大數(shù)據(jù)問題的分析、定位、解決方案設(shè)計,從架構(gòu)設(shè)計上保障系統(tǒng)高性能、高可用性、高安全性、高時效性、分布式擴展性,并對系統(tǒng)質(zhì)量負(fù)責(zé)。
2.負(fù)責(zé)云數(shù)據(jù)平臺的架構(gòu)設(shè)計和數(shù)據(jù)處理體系的優(yōu)化,推動云數(shù)據(jù)平臺建設(shè)和持續(xù)升級,并制定云數(shù)據(jù)平臺調(diào)用約束和規(guī)范。
3.結(jié)合行業(yè)應(yīng)用的需求負(fù)責(zé)數(shù)據(jù)流各環(huán)節(jié)上的方案選型,主導(dǎo)云數(shù)據(jù)平臺建設(shè),參與核心代碼編寫、審查;數(shù)據(jù)的統(tǒng)計邏輯回歸算法、實時交互分析;數(shù)據(jù)可視化方案等等的選型、部署、集成融合等等。
4.對云數(shù)據(jù)平臺的關(guān)注業(yè)內(nèi)技術(shù)動態(tài),持續(xù)推動平臺技術(shù)架構(gòu)升級,以滿足公司不同階段的數(shù)據(jù)需求。
任職要求:
1.熟悉云計算基礎(chǔ)平臺,包括Linux(Ubuntu/CentOS)和KVM、OpenStack/K8S等基礎(chǔ)環(huán)境,熟悉控制、計算、存儲和網(wǎng)絡(luò);
2.掌握大型分布式系統(tǒng)的技術(shù)棧,如:CDN、負(fù)載均衡、服務(wù)化/異步化、分布式緩存、NoSQL、數(shù)據(jù)庫垂直及水平擴容;熟悉大數(shù)據(jù)應(yīng)用端到端的相關(guān)高性能產(chǎn)品。
3.精通Java,Python,Shell編程語言,精通SQL、NoSQL等數(shù)據(jù)庫增刪改查的操作優(yōu)化;
4.PB級別實戰(zhàn)數(shù)據(jù)平臺和生產(chǎn)環(huán)境的實施、開發(fā)和管理經(jīng)驗;
5.熟悉Docker等容器的編排封裝,熟悉微服務(wù)的開發(fā)和日常調(diào)度;
6.計算機、軟件、電子信息及通信等相關(guān)專業(yè)本科以上學(xué)歷,5年以上軟件工程開發(fā)經(jīng)驗,2年以上大數(shù)據(jù)架構(gòu)師工作經(jīng)驗。
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇5
職責(zé):
1、負(fù)責(zé)大數(shù)據(jù)倉庫、數(shù)據(jù)集市的規(guī)劃及實現(xiàn),負(fù)責(zé)大數(shù)據(jù)中臺的設(shè)計和核心開發(fā)工作;
2、負(fù)責(zé)數(shù)據(jù)基礎(chǔ)架構(gòu)和數(shù)據(jù)處理體系的升級和優(yōu)化,不斷提升系統(tǒng)的穩(wěn)定性和效率,為公司的業(yè)務(wù)提供大數(shù)據(jù)底層平臺的支持和保證;
3、大數(shù)據(jù)平臺的數(shù)據(jù)采集、處理、存儲以及挖掘分析的架構(gòu)實現(xiàn);
4、研究未來數(shù)據(jù)模型和計算框架的創(chuàng)新與落地,包括但不限于以下領(lǐng)域:大規(guī)模數(shù)據(jù)實時化、研發(fā)模式敏捷化、數(shù)據(jù)計算框架輕量化、數(shù)據(jù)模型組織方式業(yè)務(wù)化等方面,參與制定并實踐團隊的技術(shù)發(fā)展路線
任職資格:
1、精通數(shù)據(jù)建模、數(shù)據(jù)標(biāo)準(zhǔn)管理、元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理;
2、有作為技術(shù)負(fù)責(zé)人系統(tǒng)化解決問題的成功案例;有海量數(shù)據(jù)實踐經(jīng)驗優(yōu)先;
3、熟悉目前正在發(fā)展的大數(shù)據(jù)分布式平臺前沿技術(shù)的應(yīng)用;包括但不僅僅限于:hadoop、flink、spark等;
4、性格積極樂觀,誠信,能自我驅(qū)動,有較強的語言表達能力;具備強烈的進取心、求知欲及團隊合作精神;具有良好的溝通、團隊協(xié)作、計劃和創(chuàng)新的能力;在數(shù)據(jù)業(yè)界有一定的影響力優(yōu)先,具有風(fēng)控經(jīng)驗背景的人優(yōu)先;
5、具備獨立的深度思考能力,給出結(jié)合實際情況的較為理想的技術(shù)解決方案。
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇6
職責(zé):
1、負(fù)責(zé)規(guī)劃科技大數(shù)據(jù)平臺及科技數(shù)據(jù)入庫自動化的方案設(shè)計;
2、負(fù)責(zé)大數(shù)據(jù)平臺的開發(fā)和維護,以及對外服務(wù)接口的開發(fā);
3、負(fù)責(zé)大數(shù)據(jù)平臺的優(yōu)化和改進工作。
任職要求
1、計算機相關(guān)專業(yè)本科及以上學(xué)歷,5年以上開發(fā)經(jīng)驗,其中3年以上為互聯(lián)網(wǎng)、大數(shù)據(jù)相關(guān)的開發(fā)經(jīng)驗;
2、熟知Hadoop生態(tài)圈體系,精通Hadoop/Spark/Storm/Kafka中的一項或幾項,深刻理解MapReduce的運行原理和機制,有MPI經(jīng)驗者尚佳;
3、熟悉Elasticsearch、Redis、Hbased等相關(guān)數(shù)據(jù)庫的構(gòu)建和操作,尤其是數(shù)據(jù)庫集群的構(gòu)建和操作,熟悉Neo4j者尚佳;
4、具有機器學(xué)習(xí)相關(guān)項目經(jīng)驗者優(yōu)先。
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇7
職責(zé):
1、數(shù)據(jù)分析軟件平臺架構(gòu)搭建
2、負(fù)責(zé)深度學(xué)習(xí)核心框架或高性能后臺服務(wù)系統(tǒng)的架構(gòu)設(shè)計工作,包括系統(tǒng)總體規(guī)劃、架構(gòu)設(shè)計、系統(tǒng)分析、軟件實現(xiàn)、性能優(yōu)化;
3、指導(dǎo)開發(fā)人員開發(fā),并解決系統(tǒng)出現(xiàn)的問題,理解物業(yè)需求;
4、制定開發(fā)計劃和控制開發(fā)進度,負(fù)責(zé)指導(dǎo)研發(fā)團隊開展設(shè)計工作;
任職要求:
1、碩士以上,計算機或先關(guān)專業(yè);
2、5年左右軟件開發(fā)經(jīng)驗,含3年以上系統(tǒng)分析、設(shè)計經(jīng)驗,有大型軟件項目大型軟件項目;有中大型互聯(lián)網(wǎng)企業(yè)數(shù)據(jù)庫架構(gòu)設(shè)計及管理經(jīng)驗,
3、具備良好的組件級建模能力,熟悉HTTP、TCP等協(xié)議
4、熟練使用UML進行軟件架構(gòu)設(shè)計,至少精通EA,RATIONAL,VISIO等一種設(shè)計工具.
5、精通至少一種編程語言,熟悉Linux相關(guān)技術(shù),能獨立在上面進行開發(fā)、測試和部署
6、深入理解數(shù)據(jù)庫、數(shù)據(jù)倉庫、大數(shù)據(jù)、分布式體系架構(gòu)和關(guān)鍵技術(shù)
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇8
職責(zé):
1.能夠帶領(lǐng)技術(shù)人員基于hadoop平臺進行海量數(shù)據(jù)應(yīng)用系統(tǒng)開發(fā);
2.負(fù)責(zé)結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的解析和清洗,海量數(shù)據(jù)查詢和報表展現(xiàn);
3.負(fù)責(zé)超大規(guī)模數(shù)據(jù)平臺的搭建、維護和優(yōu)化;
4.負(fù)責(zé)大數(shù)據(jù)采集、存儲框架研究,參與在線或離線數(shù)據(jù)存儲模型設(shè)計;
5.負(fù)責(zé)大數(shù)據(jù)平臺新技術(shù)的開發(fā)使用和性能優(yōu)化,測試。
任職資格:
1.計算機相關(guān)專業(yè)本科及以上學(xué)歷;
2.熟悉hadoop相關(guān)各種開源項目,比如HDFS/Hive/Hbase等有實際應(yīng)用。(5年以上開發(fā)經(jīng)驗者優(yōu)先);
3.兩年以上熟練編寫mapreduce代碼經(jīng)驗,有三年以上網(wǎng)絡(luò)日志分析、ETL經(jīng)驗。熟悉日志分析框架chukwa,flume,scribe者優(yōu)先;
4.兩年以上海量數(shù)據(jù)存儲的安裝部署、優(yōu)化、二次開發(fā)經(jīng)驗,對大規(guī)模數(shù)據(jù)存儲、傳輸、處理等有豐富的經(jīng)驗;
5.在數(shù)據(jù)挖掘、數(shù)據(jù)密集型處理、分布式計算、網(wǎng)格計算領(lǐng)域有深入理論基礎(chǔ);
6.具有較強的文檔撰寫能力,較強的團隊精神和合作精神,對工作有熱情,能承受壓力。
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇9
1、負(fù)責(zé)大數(shù)據(jù)平臺資源規(guī)劃、權(quán)限控制、運維架構(gòu)設(shè)計,為各產(chǎn)品業(yè)務(wù)提供穩(wěn)定、高效、安全的運行環(huán)境;
2、負(fù)責(zé)實時,離線數(shù)據(jù)分析處理及實時平臺的建設(shè)和搭建
3、熟悉Flink流式計算引擎的使用以及源碼原理,并且有相關(guān)的流式處理平臺的經(jīng)驗。
4、Java基礎(chǔ)扎實,熟練掌握垃圾回收,網(wǎng)絡(luò),多線程編程,了解python或scala
5、負(fù)責(zé)大數(shù)據(jù)平臺技術(shù)架構(gòu)、數(shù)據(jù)架構(gòu)的分析與設(shè)計;
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇10
職責(zé):
1、正確理解業(yè)務(wù)需求,對需求進行工作量評估;
2、參與項目相關(guān)的需求、設(shè)計、投產(chǎn)手冊等文檔的編寫;
3、根據(jù)進度計劃,完成所承擔(dān)功能模塊的設(shè)計、開發(fā)、單元測試、聯(lián)調(diào)測試;
4、配合測試組修復(fù)代碼缺陷,確保功能實現(xiàn)與代碼質(zhì)量;
5、負(fù)責(zé)所承擔(dān)功能模塊投產(chǎn)、部署,及上線后的日常維護;
6、完成項目經(jīng)理或者架構(gòu)師安排的其他工作;
任職資格:
1、本科以上學(xué)歷,計算機相關(guān)專業(yè),兩年以上大數(shù)據(jù)開發(fā)經(jīng)驗;
2、熟悉Linux環(huán)境,掌握shell或python;
3、熟練使用hadoop,hive,HBase,YARN,kafka,spark等大數(shù)據(jù)開發(fā)組件;
4、精通ETL,數(shù)據(jù)倉庫的設(shè)計和開發(fā);
5、有大數(shù)據(jù)處理實戰(zhàn)經(jīng)驗,熟悉整個大數(shù)據(jù)的完整處理流程,包括數(shù)據(jù)的采集、清洗、存儲;
6、較強的動手能力和學(xué)習(xí)能力,良好的溝通能力、團隊協(xié)調(diào)能力;
7、具有銀行、金融行業(yè)從業(yè)背景者優(yōu)先。
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇11
職責(zé):
1.負(fù)責(zé)公司大數(shù)據(jù)底層框架的整體架構(gòu)設(shè)計,結(jié)合公司實際業(yè)務(wù)情況進行技術(shù)選型及大數(shù)據(jù)戰(zhàn)略規(guī)劃;
2.負(fù)責(zé)統(tǒng)一數(shù)據(jù)平臺項目的整體評估、設(shè)計、架構(gòu)及關(guān)鍵模塊的開發(fā),不斷提升系統(tǒng)的穩(wěn)定性和效率;
3.負(fù)責(zé)架構(gòu)優(yōu)化及系統(tǒng)關(guān)鍵模塊的設(shè)計開發(fā),協(xié)助團隊解決開發(fā)過程中的技術(shù)難題;
4.建立良好的公司內(nèi)外的業(yè)界技術(shù)影響力;有效輔導(dǎo)團隊,提升數(shù)據(jù)研發(fā)能力;
任職要求:
1.從事大數(shù)據(jù)項目相關(guān)開發(fā)和設(shè)計2年以上經(jīng)驗;有作為技術(shù)負(fù)責(zé)人系統(tǒng)化解決問題的成功案例;有海量數(shù)據(jù)實踐經(jīng)驗優(yōu)先;
2.擁有一定的算法和數(shù)據(jù)結(jié)構(gòu)基礎(chǔ);有很強的數(shù)據(jù)設(shè)計抽象能力,善于從復(fù)雜的數(shù)據(jù)問題中找到關(guān)鍵路徑;
3.熟悉目前正在發(fā)展的大數(shù)據(jù)分布式平臺前沿技術(shù)的應(yīng)用;包括但不僅僅限于:hadoop、storm、spark、等;
4.良好的邏輯思維能力,良好的業(yè)務(wù)解讀能力,懂電力或通信業(yè)務(wù)優(yōu)先;
5.具有鉆研精神,樂于接受挑戰(zhàn);
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇12
職責(zé):
1、負(fù)責(zé)自然語音交互、IOT家電物聯(lián)控制、知識圖譜等相關(guān)模塊和系統(tǒng)的開發(fā);
2、負(fù)責(zé)掌握第三方接口的調(diào)用和功能實現(xiàn),持續(xù)優(yōu)化服務(wù)性能和容量,并保證產(chǎn)品的兼容性和執(zhí)行效率;
3、根據(jù)設(shè)計文檔和需求說明完成代碼編寫、調(diào)試、單元測試與維護,確保項目進度和質(zhì)量;
4、協(xié)助制定測試計劃,及時發(fā)現(xiàn)并修復(fù)BUG,實現(xiàn)服務(wù)端的性能優(yōu)化。
任職資格:
1、大學(xué)本科3年以上工作經(jīng)驗,計算機相關(guān)專業(yè);
2、熟悉軟件項目開發(fā)流程,具有良好編碼風(fēng)格及文檔編寫能力;
3、熟悉Linux服務(wù)器相關(guān)技術(shù),能夠獨立完成服務(wù)器部署,具有相關(guān)經(jīng)驗;
4、熟悉Hadoop/Spark框架,JAVA基礎(chǔ)扎實;
5、熟練使用Mysql數(shù)據(jù)庫,了解MongoDB或neo4j等分布式數(shù)據(jù)庫;
6、熟悉SpringCloud,SSM,Docker,redis開發(fā)者優(yōu)先;
7、熟悉前端(包括但不限于Html5、css、Angularjs、ajax、jquery等)開發(fā)技術(shù)優(yōu)先;
8、了解Socket網(wǎng)絡(luò)編程、MQTT等,有相應(yīng)實踐經(jīng)驗者優(yōu)先;
9、有智能語音語義、知識圖譜服務(wù)端開發(fā)經(jīng)驗者優(yōu)先。
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇13
職責(zé):
1.負(fù)責(zé)數(shù)據(jù)倉庫建設(shè),基于數(shù)據(jù)驅(qū)動構(gòu)建企業(yè)級數(shù)據(jù)模型,根據(jù)架構(gòu)設(shè)計進行各層數(shù)據(jù)模型開發(fā)。
2.面向PB級別超大規(guī)模數(shù)據(jù)處理和查詢需求,設(shè)計適合業(yè)務(wù)變化的合理的多維數(shù)據(jù)分析系統(tǒng)架構(gòu),滿足多樣性需求。
3.構(gòu)建設(shè)計良好的數(shù)據(jù)流、調(diào)度系統(tǒng)、查詢引擎、監(jiān)控系統(tǒng),保證系統(tǒng)穩(wěn)定高效運行,以實現(xiàn)數(shù)據(jù)的最大價值。
4.指導(dǎo)團隊成員開展數(shù)據(jù)倉庫建設(shè)。
5.參與重點項目的評審,參與企業(yè)數(shù)據(jù)管理體系建設(shè)。
任職要求:
1.統(tǒng)招本科及以上學(xué)歷。
2.從事數(shù)據(jù)倉庫領(lǐng)域至少5年以上,熟悉數(shù)據(jù)倉庫模型設(shè)計與ETL開發(fā)經(jīng)驗,掌握Kimball的維度建模設(shè)計方法,具備海量數(shù)據(jù)加工處理(ETL)相關(guān)經(jīng)驗。
3.具有一定數(shù)據(jù)模型和數(shù)據(jù)架構(gòu)基礎(chǔ),熟悉hadoop\hive和常用數(shù)據(jù)庫。
4.精通SQL,有一定的SQL性能調(diào)優(yōu)經(jīng)驗,熟悉hivesql的開發(fā)。
5.具有管理團隊開發(fā)經(jīng)驗,具備良好的組織能力、協(xié)調(diào)能力及項目管理能力。
6.具有較好的文字功底及語言表達能力,能夠快速、準(zhǔn)確地理解需求。
7.具有專研、快速學(xué)習(xí)和創(chuàng)新精神,具備獨立分析問題和解決問題的能力。
8.具有責(zé)任心,時間觀念強,工作獨立性強,有良好的團隊合作精神。
9.全日制普通本科畢業(yè)。
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇14
職責(zé):
(1)負(fù)責(zé)公司大數(shù)據(jù)平臺搭建,相關(guān)的設(shè)計和技術(shù)開發(fā)工作,負(fù)責(zé)大數(shù)據(jù)存儲系統(tǒng)、分布式計算系統(tǒng)、數(shù)據(jù)集成、挖掘算法等的設(shè)計、研發(fā)以及維護、優(yōu)化工作;
(2)通過數(shù)據(jù)分析技術(shù),挖掘有利于營銷中各業(yè)務(wù)場景的變量或規(guī)則類標(biāo)簽,以提升模型效果,為文旅、教育業(yè)務(wù)提供數(shù)學(xué)模型理論及編程支撐;
(3)對接溝通業(yè)務(wù)系統(tǒng)研發(fā)團隊和產(chǎn)品部門,提供數(shù)據(jù)驅(qū)動方面的專業(yè)咨詢方案,并對業(yè)務(wù)的大數(shù)據(jù)應(yīng)用場景提出建設(shè)性意見;
(4)配合部門領(lǐng)導(dǎo)進行項目需求分析、設(shè)計開發(fā)工作。
任職要求:
(1)計算機、統(tǒng)計學(xué),數(shù)學(xué)等相關(guān)專業(yè)本科以上學(xué)歷,5年以上大數(shù)據(jù)或文旅、教育數(shù)據(jù)產(chǎn)品設(shè)計開發(fā)經(jīng)驗,高效高質(zhì)量產(chǎn)出需求和技術(shù)文檔;
(2)精通Hadoop,熟悉大數(shù)據(jù)生態(tài)技術(shù),如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Hive、Hbase、Kerberos等,有大規(guī)模集群架構(gòu)、開發(fā)及運維經(jīng)驗;熟悉HDFS/MapReduce等;
(3)熟悉Java,能夠獨立應(yīng)用python、R、SAS或類似分析工具進行數(shù)據(jù)分析;
(4)熟悉大數(shù)據(jù)挖掘、可視化分析,各種BI算法和產(chǎn)品等,在計算廣告、搜索引擎、推薦系統(tǒng)、用戶畫像等有一個或多個算法領(lǐng)域的研發(fā)經(jīng)驗,能夠運用數(shù)據(jù)作為產(chǎn)品解決業(yè)務(wù)方運營及決策問題;
(5)有互聯(lián)網(wǎng)行業(yè)工作經(jīng)驗者優(yōu)先,有海量數(shù)據(jù)的機器學(xué)習(xí)算法實踐經(jīng)驗優(yōu)先;
(6)工作認(rèn)真、負(fù)責(zé),有良好的團隊合作精神,良好的分析能力、溝通技巧。
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇15
職責(zé):
1.負(fù)責(zé)企業(yè)數(shù)據(jù)中心建設(shè),設(shè)計數(shù)據(jù)邏輯模型和物理模型,并完成相關(guān)開發(fā)
2.梳理公司各業(yè)務(wù)線常用的指標(biāo)和維度,統(tǒng)一指標(biāo)定義口徑
3.根據(jù)數(shù)據(jù)應(yīng)用開發(fā)和數(shù)據(jù)分析需求,設(shè)計數(shù)據(jù)倉庫信息層模型,提高數(shù)據(jù)開發(fā)的效率
4.負(fù)責(zé)數(shù)據(jù)模型的運營和優(yōu)化,及時響應(yīng)業(yè)務(wù)邏輯變更,保證模型的數(shù)據(jù)質(zhì)量和穩(wěn)定性
5.負(fù)責(zé)公司數(shù)據(jù)標(biāo)簽體系的建設(shè),并推動標(biāo)簽體系在實際業(yè)務(wù)場景中落地
崗位要求:
1.5年以上DW/BI數(shù)據(jù)架構(gòu)設(shè)計、模型設(shè)計和性能調(diào)優(yōu)等相關(guān)經(jīng)驗
2.有較強的數(shù)據(jù)分析能力,精通數(shù)據(jù)倉庫架構(gòu),熟悉Erwin或PowerDesigner建模工具
3.精通一種主流關(guān)系數(shù)據(jù)庫(如mysql等),熟悉Hive開發(fā)
4.有電商業(yè)務(wù)經(jīng)驗,元數(shù)據(jù)管理,數(shù)據(jù)質(zhì)量管理或標(biāo)簽體系搭建經(jīng)驗者優(yōu)先
5.優(yōu)秀的協(xié)調(diào)溝通與團隊協(xié)作能力,極強的責(zé)任心,能承受一定的工作壓力,認(rèn)同企業(yè)文化和團隊價值
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇16
1.負(fù)責(zé)數(shù)瀾大數(shù)據(jù)平臺的架構(gòu)設(shè)計和研發(fā),建立數(shù)據(jù)生態(tài)服務(wù),解決海量數(shù)據(jù)面臨的挑戰(zhàn);
2.管理和優(yōu)化Hadoop、Spark等集群,計算作業(yè)的調(diào)優(yōu),保證集群和平臺的高效和穩(wěn)定;
3.負(fù)責(zé)Hadoop、Spark、Flink的功能、性能和擴展,解決并實現(xiàn)業(yè)務(wù)需求;
4.負(fù)責(zé)大數(shù)據(jù)產(chǎn)品的自動化、離線與實時計算、即席計算、數(shù)據(jù)質(zhì)量、數(shù)據(jù)安全、機器學(xué)習(xí)等平臺的設(shè)計和開發(fā);
5.調(diào)研和把握當(dāng)前的最新技術(shù),將其中的先進技術(shù)引入到自己的平臺中,改善產(chǎn)品,提升競爭力;
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇17
職責(zé):
1、負(fù)責(zé)規(guī)劃大數(shù)據(jù)平臺及應(yīng)用產(chǎn)品的需求和技術(shù)方案設(shè)計;
2、負(fù)責(zé)數(shù)據(jù)對接和對外服務(wù)設(shè)計、開發(fā)和維護,并能保證質(zhì)量和性能;
3、負(fù)責(zé)基于大數(shù)據(jù)平臺的應(yīng)用設(shè)計、開發(fā)和維護;
4、能從系統(tǒng)全局和各子系統(tǒng)的角度思考可能存在的問題,并提出改進方案建議;
任職要求:
1、大學(xué)本科6年以上工作經(jīng)驗,計算機相關(guān)專業(yè)。
2、至少4年以上的Java開發(fā)經(jīng)驗,3年以上大數(shù)據(jù)應(yīng)用系統(tǒng)的開發(fā)和設(shè)計經(jīng)驗。
3、熟悉Hadoop生態(tài)圈技術(shù)體系,對離線計算、內(nèi)存計算和流式計算均有深刻理解,如Hadoop、Storm、Spark三個中的任意二個,能進行平臺和組件優(yōu)化。
4、精通Hive、HBase倉庫設(shè)計,深刻理解MR運行原理和機制,能進行以提供高任務(wù)執(zhí)行效率的優(yōu)化。
5、精通Java開發(fā),熟悉JVM調(diào)優(yōu),對GC有深刻理解。
6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相關(guān)技術(shù),能進行hbase可靠性診斷和維護。
7、快速研究和學(xué)習(xí)技術(shù)能力。
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇18
職責(zé):
1、負(fù)責(zé)大數(shù)據(jù)平臺架構(gòu)的評估、規(guī)劃和設(shè)計;負(fù)責(zé)海量數(shù)據(jù)采集、處理及存儲、應(yīng)用方案的技術(shù)選型及架構(gòu)實現(xiàn);
2、開發(fā)大數(shù)據(jù)平臺的核心代碼,負(fù)責(zé)大數(shù)據(jù)平臺的搭建,完成系統(tǒng)調(diào)試、集成與實施,技術(shù)難題的解決,保證大數(shù)據(jù)產(chǎn)品的上線運行;
3、根據(jù)業(yè)務(wù)需求持續(xù)優(yōu)化數(shù)據(jù)架構(gòu),保證產(chǎn)品的可靠性、穩(wěn)定性;
4、指導(dǎo)開發(fā)人員完成數(shù)據(jù)模型規(guī)劃建設(shè),分析模型構(gòu)建及分析呈現(xiàn),分享技術(shù)經(jīng)驗;
5、負(fù)責(zé)大數(shù)據(jù)平臺的架構(gòu)評審,代碼評審,上線評審;參與數(shù)據(jù)應(yīng)用需求、設(shè)計、審核和評審;
6、深入研究大數(shù)據(jù)相關(guān)技術(shù)和產(chǎn)品,跟進業(yè)界先進技術(shù);
任職資格:
1.本科及以上學(xué)歷,數(shù)學(xué)或計算機相關(guān)專業(yè)畢業(yè),不少于5年的工作經(jīng)驗,具有扎實的計算機基礎(chǔ)理論知識;
2.有3年以上Hadoop、Spark、Hbase平臺性能調(diào)優(yōu)經(jīng)驗;熟悉sparkstreaming等實時計算技術(shù)
3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等,具備實際項目設(shè)計及開發(fā)經(jīng)驗;
4.熟悉sparkstreaming等相關(guān)的實時計算技術(shù);
5.熟悉大規(guī)模數(shù)據(jù)挖掘、機器學(xué)習(xí)、自然語言處理、分布式計算中一項或多項技術(shù),并具備多年的實際工作經(jīng)驗;
6.熟悉主流關(guān)系型數(shù)據(jù)庫(Oracle、MySql)、NoSql數(shù)據(jù)庫,熟悉pl/sql編程;精通Linux操作系統(tǒng),熟練使用Java;熟悉常用框架.如Spring、MyBatis等;
7.具有較強的執(zhí)行力,高度的責(zé)任感、很強的學(xué)習(xí)、溝通能力,能夠在高壓下高效工作;
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇19
職責(zé):
1、負(fù)責(zé)spark,hadoop,flink等開發(fā)和優(yōu)化。
2、參與前期需求溝通和分析,以產(chǎn)品化開發(fā)的思維,完成需求分解和數(shù)據(jù)架構(gòu)設(shè)計。
3、與研發(fā)和數(shù)據(jù)科學(xué)家合作保證產(chǎn)品定義清晰,按時完成產(chǎn)品上線。
4、能夠洞察市場狀況,與各部門合作轉(zhuǎn)化為基于大數(shù)據(jù)挖掘的新策略或方案.
5、主動創(chuàng)造和發(fā)掘新的基于大數(shù)據(jù)挖掘產(chǎn)品商業(yè)模式.
任職要求:
1、全日制本科及以上學(xué)歷,計算機軟件相關(guān)專業(yè),5年以上開發(fā)經(jīng)驗,3年以上架構(gòu)經(jīng)驗
2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式數(shù)據(jù)存儲和分布式計算平臺原理,流式計算開發(fā),有開源二次開發(fā)經(jīng)驗者優(yōu)先。
3、精通大數(shù)據(jù)挖掘、機器學(xué)習(xí).熟練掌握J(rèn)ava/Perl/Python至少一種編程語言。
4、具有數(shù)據(jù)挖掘和分析、機器學(xué)習(xí)等項目實施相關(guān)經(jīng)驗者優(yōu)先;
5、良好的跨部門溝通合作能力,解決不同觀點能力并取得結(jié)果。具備敏銳的互聯(lián)網(wǎng)產(chǎn)品理解力,學(xué)習(xí)能力和邏輯思維能力強;
6、較強的自我驅(qū)動力、推動和協(xié)調(diào)能力,強烈的責(zé)任心和團隊合作精神;
大數(shù)據(jù)架構(gòu)師工作職責(zé)篇20
職責(zé):
1、從事電信行業(yè)大數(shù)據(jù)項目相關(guān)業(yè)務(wù)調(diào)研、產(chǎn)品標(biāo)準(zhǔn)建設(shè)、核心模型設(shè)計和優(yōu)化、系統(tǒng)測試等相關(guān)工作
2、與數(shù)據(jù)專業(yè)委員會一起研究數(shù)據(jù)建模方案和建模工具,負(fù)責(zé)產(chǎn)品線產(chǎn)品的數(shù)據(jù)架構(gòu)、數(shù)據(jù)模型設(shè)計
3、參與研究數(shù)據(jù)庫之間的數(shù)據(jù)轉(zhuǎn)換方式,參與項目中的數(shù)據(jù)移植工作,收集在項目中的數(shù)據(jù)移植經(jīng)驗,優(yōu)化產(chǎn)品的數(shù)據(jù)模型
4、負(fù)責(zé)培訓(xùn)本部門隊伍的數(shù)據(jù)模型基礎(chǔ)理論工作,建立數(shù)據(jù)模型團隊
崗位要求:
1、統(tǒng)招本科學(xué)歷,3年以上主流數(shù)據(jù)上(DB2、Oracle、SQLServer、Mysql等)ETL設(shè)計、開發(fā)經(jīng)驗,具備大型數(shù)據(jù)倉庫邏輯模型和物理模型設(shè)計經(jīng)驗,精通SQL,有較好的SQL性能調(diào)優(yōu)經(jīng)驗;
2、擁有Python,R等數(shù)學(xué)建模工具的使用經(jīng)驗,并具備一定的數(shù)據(jù)處理和建模經(jīng)驗,可以輸出相應(yīng)的模型分析結(jié)果、模型比較、模型效率以及對模型的理論和判斷依據(jù)方法并對其進行完整的解釋和說明;
3、熟悉統(tǒng)計學(xué)基本原理,做過實戰(zhàn)的數(shù)據(jù)建模項目;
4、有分布式數(shù)據(jù)倉庫建設(shè)相關(guān)經(jīng)驗者優(yōu)先,具備電信行業(yè)數(shù)據(jù)倉庫建設(shè)相關(guān)經(jīng)驗者優(yōu)先;
