深度學習與機器學習的關係是什麼?

時間 2021-05-06 06:47:48

1樓:瘋貓子

沒有一種技術的發展是孤立的。

開局一張圖

深度學習是機器學習的乙個重要分支,深度學習和機器學習的關係屬於繼承和發展的關係,其實不單單是這一分支如此,幾乎所有的演算法分支都是早期技術的重組、繼承、發展而來。如上圖所示,我大致把這些技術的繼承發展關係用導圖的方式進行展示,圖中沒有標註顏色的都是發展到目前,基本處於卡死的狀態,而發展的最為粗壯的一支就是深度學習了,深度學習因為其自身具備了外部感知的特性,被朝著超大型複合型網路的方式在發展,為人工智慧熱潮延續著最後的熱量。基本上,這一分支也快被卡死了,卡死的原因就在於算力跟不上,GPT-3網路的效能是目前最為出色的,智慧型程度也是最高的。

但是其1.5B的參數量,加之openAI的技術封閉,也基本決定了發展步伐的會極速放緩。

另外乙個新的分支是樹模型分支,梯度提公升樹,但是這個分支的應用領域尚不明確,除了打資料競賽優勢明顯之外,投入生產環境的成功案例暫未看到。

其實,就現代的人工智慧演算法而言,在基礎構成方面,相互融合的情況比比皆是,例如線性模型是構成神經網路的基本單位,而神經網路的疊加擴充套件又發展出了深度神經網路。在例如,無監督模型聚類演算法,分類的類別數卻是需要由人來指定。或者強化學習也不需要監督,但是其結果的好壞卻是需要由人來設計激勵函式給予正負反饋。

所以從這個層面來說,它們都是處於人類監督下的演算法,所以,監督與否這個說法,現在已經很少有人提起。因為模型在勝任實際任務時,是不可能單獨使用的,機器學習中有個新出不久的模型堆疊技術,叫做stacking,可以把各種不同型別的模型堆疊在一起使用,得到乙個最終結果,讓這些小模型變成乙個大型復合模型的組成部分,你根本無法說清楚,他們是有監督還是無監督,因為都有。

目前的發展趨勢,為了讓人工智慧演算法解決實際問題,或者說向著強人工智慧發展,簡單的模型演算法肯定是辦不到的,幾乎隨處可見的是打破次元壁進行融合,所以目前仍然有所突破的方向都是超大型複合型的網路結構。新一輪的重組、繼承、發展應該已經開始了,等到技術一旦突破,估計現在的分類方式和對應關係可能就會完成失去意義。

2樓:

說人工智慧聽著比較高大上,但實際上你生活中應用最廣的,天天都在用的人工智慧你知道是什麼麼?抖音快手的內容推送,你深入了解後其實道理邏輯是一樣的,只不過前端加了語音或者場景識別介面進行語義學習了。抖音的內部演算法就是可以進行深度學習,一天這麼多資料量,不可能認為去提交標籤,這麼多達人要打標籤,自然是要進行深度自我學習的,雖然抖音不提人工智慧,但實際上抖音是個技術公司,要監控算好達人的推流機制。

說人工智慧聽著比較高大上,但實際上你生活中應用最廣的,天天都在用的人工智慧你知道是什麼麼?抖音快手的內容推送,你深入了解後其實道理邏輯是一樣的,只不過前端加了語音或者場景識別介面進行語義學習了。抖音的內部演算法就是可以進行深度學習,一天這麼多資料量,不可能認為去提交標籤,這麼多達人要打標籤,自然是要進行深度自我學習的,雖然抖音不提人工智慧,但實際上抖音是個技術公司,要監控算好達人的推流機制。

3樓:初步

機器學習是實現人工智慧的一種方式,機器學習包含深度學習。神經網路是深度學習的一種實現方式,神經網路既可以應用在監督學習,也可以用在無監督學習上。如果你是初學者,我覺得沒有必要特別糾結這些概念,因為等你入門了,會逐漸清楚。

4樓:小劉鴨

深度學習是機器學習的子領域

人工智慧 > 機器學習 > 深度學習深度學習可以說是在傳統神經網路基礎上的公升級,約等於神經網路。

機器學習和深度學習的相似點

機器學習和深度學習的核心區別傳統機器學習的特徵提取主要依賴人工,針對特定簡單任務的時候人工提取特徵會簡單有效,但是並不能通用。

深度學習的特徵提取並不依靠人工,而是機器自動提取的。這也是為什麼大家都說深度學習的可解釋性很差,因為有時候深度學習雖然能有好的表現,但是我們並不知道他的原理是什麼。

詳情參見:

一文看懂深度學習(白話解釋+8個優缺點+4個典型演算法)人工智慧的發展史——3次 AI 浪潮 - 產品經理的人工智慧學習庫AI 資料集最常見的6大問題(附解決方案) - 產品經理的人工智慧學習庫

5樓:

自從Alpha GO大戰李世石後,人工智慧呈現巨大的競爭優勢,深度學習就成為行業的熱門。

AlphaGo 就充分體現了深度學習的強大威力,它與過去IBM深藍所採用的技術截然不同,不再是使用暴力解題法來贏過人類。

目前,業內對於機器學習、和深度學習也沒有權威的定義。

對於機器學習,我們一般都以Tom Mitchell的解釋基礎。

機器學習,是英文Machine Learning的翻譯,是通過電腦程式可以從經驗E中學習某些型別的任務T和用來測量的P,如果它在T中的任務中的表現(由P測量)會隨著經驗E的提高而提高。

聽起來非常抽象,簡單來說,機器學習就是通過大量資料而不是指令來進行各種工作的方法。

深度學習,是英文Deep Learning的翻譯,它一種特殊的機器學習,它通過學習將世界表示為巢狀的概念層次結構來實現強大的功能和靈活性,每個概念都是根據更簡單的概念進行定義的,而更抽象的表示則用不那麼抽象的概念計算出來。

從這個概念中,我就可以看出深度學習就是機器學習中的一種,它也當然具有機器學習中的各種演算法了,包括監督學習、無監督學習、強化學習、多示例學習等。

如下是機器學習和深度學習的簡單示意圖:

既然現在我們已經了解了機器學習和深度學習的基本概念,那我們現在來比較一下這兩種技術。

深度學習更依賴資料

深度學習與傳統機器學習之間最重要的區別會隨著資料規模的增大而表現出來。當資料很小時,深度學習演算法表現不佳。這是因為深度學習演算法需要大量資料才能完美理解它。

另一方面,傳統的機器學習演算法及其手工製作的規則在這種情況下佔據優勢。下圖總結了這一事實。

2. 深度學習要求更高的算力

深度學習演算法在很大程度上依賴於高階機器,這與傳統的機器學習演算法相反,後者可以在低端機器上執行。這是因為深度學習演算法的要求包括GPU,因為GPU是其工作中不可或缺的組成部分。深度學習演算法本質上是做大量的矩陣乘法運算,而使用GPU可以有效的優化這些操作,而這就是使用GPU的目的。

3.深度學習消耗更多時間

通常,深度學習演算法需要很長時間來訓練。這是因為深度學習演算法中有很多的引數,所以訓練它們需要更長的時間。最先進的深度學習演算法ResNet需要大約兩周時間才能完全從0開始的訓練。

相比之下,機器學習的訓練時間要短得多,從幾秒鐘到幾小時不等。

測試時間完全顛倒了。在測試時,深度學習演算法執行的時間要少得多。然而,如果把它與k近鄰(一種機器學習演算法)進行比較,則測試時間會隨著資料的增加而增加。

雖然這不適用於所有機器學習演算法,因為有些演算法的測試時間也會很短。

4. 深度學習不依賴特徵工程

特徵工程是將領域知識放入特徵提取器的建立過程,用來降低資料的複雜性並使特徵對於學習演算法更加可見。就時間和專業知識而言,這個過程是困難而又昂貴的。

在機器學習中,大多數應用的特徵需要由專家識別,然後根據領域和資料型別進行手動編碼。

例如,特徵可以是畫素值,形狀,紋理,位置和方向。大多數機器學習演算法的效能取決於特徵識別和特徵提取的準確程度。

深度學習演算法嘗試從資料中學習高階特徵。這是深度學習乙個非常獨特的部分,也是超越傳統機器學習的重要部分。因此,深度學習減少了為每個問題開發新的特徵提取器的任務。

就像,卷積神經網路將嘗試先學習底層特徵,例如早期圖層中的邊緣和線條,然後是人臉的部分面部,最後是高階的面部識別。

5. 深度學習能更高效的解決問題

當使用傳統的機器學習演算法解決問題時,通常建議將問題分解為不同的部分,分別解開這些問題,然後將它們組合起來得到結果。相反,深度學習主張從頭到尾的解決問題。

我們舉乙個例子來理解這一點。

假設現在有乙個多個物件檢測的任務。任務是確定物件是什麼以及它在影象中的位置。

在典型的機器學習方法中,可以將問題分為兩個步驟:物件檢測和物件識別。首先,您將使用像grabcut這樣的邊界框檢測演算法來瀏覽影象並查詢所有可能的物件。

然後,在所有已識別的物件中,您將使用物件識別演算法(如帶有HOG的SVM)來識別相關物件。

相反,在深度學習方法中,只需要從頭到尾的完成這個過程。例如,在YOLO net(這是一種深度學習演算法)中,傳入這張影象,它將給出物件存在的位置以及物件的名稱。

6樓:多多

兩者不是同乙個level上的,深度學習是機器學習的一種。

最近火的發紫的深度學習實際上指的的深度神經網路學習,普通神經網路由於訓練代價較高,一般只有3-4層,而深度神經網路由於採用了特殊的訓練方法加上一些小trick,可以達到8-10層。深度神經網路能夠捕捉到資料中的深層聯絡,從而能夠得到更精準的模型,而這些聯絡不容易被普通的機器學習方法所發覺。

深度學習包含在機器學習中,也是機器學習的一種。深度學習模型自己提取特徵,輸入影象進行訓練,而機器學習需要人為提取特徵,即提取影象的特徵篩選後訓練模型。在大量資料的情況下,深度學習效果很好,可以完成很多高難任務。

是當下火熱的也是效果最好的,但是對硬體要求高資料量需求大。機器學習硬體需求低,小資料情況可以得到較好的模型

7樓:庫洛科夫

深度學習是自己主觀上想去學習而去學習,而機器學習是被動的、為了應付學習而學習,前者對知識的記憶效果、理解程度肯定優於後者。

8樓:地平線

做個比喻吧:機器學習是廣袤無垠的大草原,而深度學習是在草原上很深的乙個盤根錯節的洞穴(大坑?(霧)),機器學習包含了許多內容:

特徵工程、決策樹、模型整合、聚類、SVM、概率圖等等。但是深度學習是瞄準了神經網路這一章深深地挖了下去,這一鏟子下去挖出了CNN(卷積神經網路)、RNN等等,挖出來計算機視覺和自然語言處理這樣的應用。

至於答主說的無監督學習是不太對的,我個人認為深度學習是都包含三者的,它是以監督學習為主,半監督學習和無監督學習為輔的;而且現在深度學習發展得很廣很火,從聲勢和人力物力上講已經完全壓制了機器學習;因此我認為不能簡簡單單用從屬關係或者上下關係來形容機器學習和深度學習了。

再多說一點,深度學習的優異之處就在於它能做出的成績,計算機這東西比較現實,先別管原理是啥,只要能跑出好的結果就行。很多人感覺機器學習整了半天就被人家給無腦堆網路給整下去了,這也是為什麼深度學習灌水嚴重的原因。

不過我個人感覺機器學習仍然是非常值得關注的,首先機器學習的可解釋性和系統性遠比深度學習要好,其次其理論和工程都發展得很全面很細化。而深度學習就不太行,搞深度學習的人誰沒經歷過天天在調網路的痛苦(Res18,VGG16....懂的都懂)。

現在很多人嘗試解決深度學習的解釋性問題,但我個人看來,其還是一門工程學科;主要憑的是經驗和感覺。只能有個方向上的指導,細化不了細節。

當然,我本人也是搞深度學習的,我當然希望它更好;只不過我們面對的這種狀況應當冷靜思考,不能光盯著眼下這幾個網路,然後天天在那裡畫"電路圖"。

資料探勘與機器學習是什麼關係?

郭斯特 機器學習通過演算法讓計算機通過以往的經驗來改善其效能。資料探勘從資料中發現模式並加以利用。所謂 以往的經驗 當然也是以資料的形式存在的。要想改善效能,當然也要先發現模式才行。兩個領域高度相關。區別嘛,資料探勘更重視實際應用,採用系統化的方法來綜合使用各種機器學習演算法 拿來就用,不管理論 期...

學習深度學習是否要先學習機器學習?

作為乙個在數學系學統計做過機器學習,工作後搞深度學習的人,我可以很負責任的告訴你,不需要 理論上來說,深度學習確實是機器學習的一部分。十年前,深度學習其實還叫 ANN,是存活在機器學習裡的一小部分 別噴,我知道現在主流是 CNN,跟ANN不同 但是實際上,深度學習是乙個用計算機算力暴力求解問題的函式...

神經網路 深度學習 機器學習是什麼?有什麼區別和聯絡?

達觀資料 機器學習是指利用演算法和統計模型,而非規則程式設計,使得計算機系統能在某個特定任務上提高表現。人工神經元是一種運算結構,它接收乙個或多個輸入,通過非線性函式變換,得到乙個輸出,而且該非線性函式是在學習過程中可變的。人工神經網路是一些人工神經元組成的網路,其中一些人工神經元的輸出作為另一些人...