現(xiàn)在已經(jīng)進(jìn)入了大數(shù)據(jù)時(shí)代，哈佛大學(xué)社會(huì)學(xué)教授加里·金說：“這是一場(chǎng)革命，龐大的數(shù)據(jù)資源使得各個(gè)領(lǐng)域開始了量化進(jìn)程，無論學(xué)術(shù)界、商界還是政府，所有領(lǐng)域都將開始這種進(jìn)程?！?目前很火，數(shù)據(jù)源頭，各種炫酷新技術(shù)，搭建hadoop、Hive、Spark、Kylin、Druid、Beam~，前提是你要懂Java，很多平臺(tái)都是用Java開發(fā)的.這里面要解決的是實(shí)時(shí)、近實(shí)時(shí)和離線的大數(shù)據(jù)框架如何搭建，各數(shù)據(jù)流之間如何耦合和解耦我是一名大數(shù)據(jù)程序員，建了一個(gè)大數(shù)據(jù)資源共享群593188212 每天分享大數(shù)據(jù)學(xué)習(xí)資料和學(xué)習(xí)路線，如何進(jìn)行容災(zāi)、平臺(tái)穩(wěn)定、可用是需要重點(diǎn)考慮的。 在大數(shù)據(jù)商品化之前, 利用大數(shù)據(jù)分析工具和技術(shù)來取得競(jìng)爭(zhēng)優(yōu)勢(shì)已不再是秘密。2018年, 如果你還在職場(chǎng)上尋找大數(shù)據(jù)的相關(guān)工作, 那么, 這里介紹的9種技能，將幫助你得到一個(gè)工作機(jī)會(huì)。

Apache Hadoop

Hadoop現(xiàn)在已經(jīng)進(jìn)入第二個(gè)10年發(fā)展期了, 但不可否認(rèn)的是, Hadoop在2017年出現(xiàn)了井噴式發(fā)展, 由于Hadoop從測(cè)試集群向生產(chǎn)和軟件供應(yīng)商方向不斷轉(zhuǎn)移, 其越來越接近于分布式存儲(chǔ)和處理機(jī)架構(gòu), 因此, 這一勢(shì)頭在2018年會(huì)更加猛烈。由于大數(shù)據(jù)平臺(tái)的強(qiáng)大, Hadoop可能是一個(gè)挑剔的怪獸, 它需要熟悉的技術(shù)人員細(xì)心的照顧和喂養(yǎng)。掌握Hadoop核心技術(shù) (例如, HDFS, MapReduce, Flume, Oozie, Hive, Pig, HBase, and YARN) 的技術(shù)人員在職場(chǎng)上的需求將越來越大。

Apache Spark

如果說Hadoop在大數(shù)據(jù)世界中已廣為人知, 那么Spark就是一匹黑馬, 它所蘊(yùn)含的原始潛力使Hadoop黯然失色。無論是否是Hadoop架構(gòu), 快速崛起的內(nèi)存計(jì)算技術(shù)被認(rèn)為是MapReduce風(fēng)格分析框架更快和更簡(jiǎn)潔的替代方案。Spark的定位應(yīng)當(dāng)是大數(shù)據(jù)技術(shù)族中重要的一個(gè)成員。Spark仍然需要專業(yè)技術(shù)進(jìn)行編程和運(yùn)行, 這為知曉該技術(shù)的工程師提供了不錯(cuò)的工作機(jī)會(huì)。

NoSQL

在大數(shù)據(jù)的操作層面, 諸如 MongoDB 和 Couchbase 等分布式、可擴(kuò)展的 NoSQL 數(shù)據(jù)庫正在接管市場(chǎng)份額極為龐大的的 SQL 數(shù)據(jù)庫, 例如 Oracle 和 IBM DB2。在 WEB 和移動(dòng) app層面, NoSQL數(shù)據(jù)庫常常被做為Hadoop分析的數(shù)據(jù)源。在大數(shù)據(jù)領(lǐng)域, Hadoop 和 NoSQL 分別成為良性循環(huán)的兩個(gè)端點(diǎn)。

Machine Learning and Data Mining（機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘）

人們習(xí)慣于對(duì)收集的數(shù)據(jù)進(jìn)行挖掘，但是, 在當(dāng)今大數(shù)據(jù)的世界里, 數(shù)據(jù)挖掘已經(jīng)達(dá)到了一個(gè)全新的高度。機(jī)器學(xué)習(xí)成為去年大數(shù)據(jù)技術(shù)熱門的領(lǐng)域之一, 2018年順理成章地成為它的突破之年。大數(shù)據(jù)將會(huì)使那些能夠利用機(jī)器學(xué)習(xí)技術(shù)去構(gòu)建和訓(xùn)練像分類、推薦和個(gè)性化系統(tǒng)等預(yù)測(cè)分析應(yīng)用程序的人成為職場(chǎng)寵兒, 取得就業(yè)市場(chǎng)上的薪金。

Statistical and Quantitative Analysis(統(tǒng)計(jì)和定量分析)

這就是大數(shù)據(jù)。如果你有定量推理背景和數(shù)學(xué)或統(tǒng)計(jì)學(xué)等方面的學(xué)位,那么你就成功了一半。此外,再加上一些使用統(tǒng)計(jì)工具經(jīng)驗(yàn),例如 R, SAS, Matlab, SPSS, 或者是 Stata, 你就能夠鎖定這些工作崗位啦。在過去,許多量化工程師都會(huì)選擇在華爾街工作, 但由于大數(shù)據(jù)的快速發(fā)展, 現(xiàn)在各行各樣都需要大量的具有定量分析背景的 極客。

SQL

以數(shù)據(jù)為中心的語言已有超過40年的歷史了, 但是這種祖父級(jí)的語言在當(dāng)前的大數(shù)據(jù)時(shí)代仍然具有生命力。盡管它難以應(yīng)對(duì)大數(shù)據(jù)的挑戰(zhàn) (見上文NoSQL部分), 但是, 簡(jiǎn)化了的結(jié)構(gòu)化語言使其在許多方面變得十分容易。

Data Visualization（數(shù)據(jù)可視化）

大數(shù)據(jù)可能不是那么容易理解, 但在某些情況下, 通過鮮活的數(shù)據(jù)吸引眼球仍然是不可替代的方法。你可以一直用多元或邏輯回歸分析方法解析數(shù)據(jù), 但是, 有時(shí)候使用類似 Tableau 或Qlikview 這樣的可視化工具探索數(shù)據(jù)樣本能夠直觀的告訴你所擁有的數(shù)據(jù)的形態(tài), 甚至是發(fā)現(xiàn)那些能夠改變你處理數(shù)據(jù)方法的一些隱蔽細(xì)節(jié)。當(dāng)然，如果你長(zhǎng)大后想成為數(shù)據(jù)藝術(shù)家, 那么, 精通一個(gè)甚至是更多的可視化工具就是必不可少的了。

General Purpose Programming Languages

在類似 Java, C, Python, 或 Scala 等通用語言中擁有編程應(yīng)用經(jīng)驗(yàn)?zāi)軌蚴鼓阆鄬?duì)于那些局限于分析技術(shù)的人更具有優(yōu)勢(shì)。根據(jù) Wanted Analytics的統(tǒng)計(jì), 招聘具有數(shù)據(jù)分析背景的“計(jì)算機(jī)編程”職位的數(shù)量增長(zhǎng)了 337%。具有傳統(tǒng)應(yīng)用程序開發(fā)和新興數(shù)據(jù)分析能力的人將會(huì)有極大的就業(yè)選擇空間, 能夠自由的在終端用戶企業(yè)和大數(shù)據(jù)創(chuàng)業(yè)公司之間進(jìn)行流動(dòng)。

Creativity and Problem Solving（創(chuàng)造力和問題解決能力）

無論你在高級(jí)分析工具和技術(shù)方面有多大優(yōu)勢(shì),自主思考能力仍然是無可替代 的。大數(shù)據(jù)處理工具會(huì)不可避免的進(jìn)行演化發(fā)展,新技術(shù)會(huì)不斷涌現(xiàn)并替代這里所列 出的技術(shù)。但是,如果你能出于本能的渴求新的知識(shí),并且能夠像獵犬一樣發(fā)現(xiàn)問題 的解決方案,就會(huì)有大量的工作機(jī)會(huì)在等著你。