Hadoop工程師需要會資料探勘 機器學習 模式識別 嗎?

時間 2021-05-09 15:32:11

1樓:stucou

以前不需要現在需要。

1 以前hadoop生態系統不成熟的時候,各個元件不好用,分布式處理的知識不普及,大資料應用也侷限於hbase訪問資料,hive跑sql出報表,流處理統計過濾資料。所以大資料工程師大部分時間在研究這些元件本身的用法和坑。

2 隨著開源軟體的發展,大資料元件本身越來越成熟,坑也越來越少,入門的門檻越來越低(比如hive出現之前,要手寫mapreduce程式,hive出現了直接寫sql 難度大大降低。structured streaming出現之前要手寫流程式難寫難調 ),就單個元件來說,上手越來越容易。

3 應用趨勢和投資趨勢已經逐漸從大資料平台轉向大資料探勘及人工智慧。有資料的公司希望進一步發揮資料的價值,這就會涉及大資料機器學習元件。

所以對於大資料工程師來說,只會一些元件就容易失去競爭力,工資談不高。要會用平台能做資料探勘應用才能得到更高的工資。

2樓:Orange Lee

我只能很膚淺地回答一下,畢竟我也不專業。

首先我覺得是否學習要看兩點。

第一是個人的興趣愛好,是否對機器學習資料處理感興趣,如果感興趣的話,是可以深入跟進的。畢竟有hadoop的基礎的話,學習起來會比較容易,因為很多相關的資料處理要麼直接在hadoop平台上進行,或者是在hadoop生態圈裡的系統上進行。這是乙個優勢。

第二是職業需求。我看過hadoop工程師的招聘,貌似有乙個是平台維護,這個就不太需要資料處理的太多知識。如果是hadoop資料工程師的話,那麼我覺得學習是必要的。

演算法工程師需要具備哪些大資料相關知識?

笑個不停 34er5 害,做為一名已經從業2年多快3年的風控演算法工程師的視角來回答一下這個問題,不過看題主是從事計算機視覺的童鞋,可以參考一下 以乙個業務驅動的演算法模型的上線流程來具體說一下需要用到的一些資料處理技術 業務爸爸說,這邊有一塊使用者的風險近期抬頭了,需要壓降,老闆說那個xx童鞋你來...

商用大資料平台普遍起來,大資料開發工程師會失業嗎?

看屋雲 當然不會。從業內的實際情況看,不如說剛好相反,商用大資料平台的推廣程度越高,大資料開發工程師的崗位需求越多。讓我們從兩個方面來講清楚這個問題 1.目前在國內,大資料開發工程師的崗位需求與商用大資料平台的推廣呈同步推進關係。2.長期來看,商用大資料平台不能取代自研資料平台,也不會導致開發工程師...

售前工程師面試需要準備什麼

陳剛祥 作為乙個幹了7年售前,做了5年多售前管理,面試過不少的人,大部分人我覺得都是沒有完整售前意識的。例如我舉一些問題來說 1.問問自己什麼是售前?對售前的認知有多深。你對自己的定位,決定了你在公司的地位。個人覺得售前是銷售經理與開發人員之間的橋梁,是公司產品和技術的第一代表,是公司不可缺少的核心...