深度學習會不會淘汰掉其他所有機器學習演算法

時間 2021-05-09 17:33:59

1樓:智星雲服務

我們可以來看看Wolpert and Macready在2023年提出的No Free Lunch Theorems(免費午餐理論)。

這個定理告訴我們,對於同一領域任意兩個學習演算法A和演算法B,兩者迭代運算之後對於問題Q的解決的所有可能性的累加和是相等的,也就是說, 脫離了具體的某一問題問題, 空談哪個演算法更好或者更壞是沒有太大意義的, 因為如果考慮所有可能的問題, 那麼所有的演算法結果都是一樣的。一種演算法只是針對某一問題來說是最好的,如果演算法A針對問題M優於演算法B,那麼演算法B必定會在同一領域對的問題N上優於演算法A。

目前的深度學習主要是基於神經網路的深度學習,這種演算法由於能自動的學習和迭代樣本的計算結果的表示,因此比較適合適合像影象, 語音, 文字等原始樣本和資料特徵之間相差很大,無法用一般統計方法提前特徵值的情況, 這也是現今深度學習在這些領域能取得重大進展的乙個非常重要的原因, 而另一方面, 仍然有相當多的問題分析中, 其資料的原始樣本和資料的特徵之間差別不大, 這個時候, 使用深度學習開銷和效能將比不過傳統的統計方法。畢竟工程問題除了要考慮精準度外,還要考慮成本,從這個角度講,傳統的統計檢驗提取特徵值的方法成本還是要遠低於深度學習的演算法的。

任何技術或者演算法或者語言的發展都不是為了打敗其他的技術,演算法,語言,科技的發展是包容的,是互相學習,互相進步的乙個過程,人工智慧的發展還需要更多優秀演算法的迭代才能煥發出蓬勃的生命力,而不是一味的用所謂的高階演算法替代甚至淘汰別的演算法。

對於有GPU使用需求的朋友,建議大家在智星雲租用GPU,價效比很高。

2樓:

我覺得不是淘汰,是進化。

無論哪個機器學習模型,其本質就是擬合能力+策略去決定擬合的方向。相比資料量小的時候,一些簡單的模型更快,更簡單。但是一旦資料複雜,那就沒有簡單模型什麼事了。

模擬生活中的經驗,我們說深度學習是趨勢。比如自行車和汽車之爭,自行車到現在沒有消亡,能說自行車才是未來趨勢嗎?自行車肯定是讓位於汽車,只是在很短的路程這個場景上才會使用自行車。

樓上有一些例子舉No Free Lunch.我覺得應該是誤解,神經網路也符合nfl。因為不同的神經網路結構所構建的神經網路應用的範圍也不一樣。

nfl也不代表所有模型的擬合能力一樣,只能代表所有的模型都有自己的缺陷。

以上只是我的粗淺認識。

3樓:Lucian

想一下這麼多的非線性模型是否已經淘汰了線性模型呢?那段學中級計量經濟學的日子真是回想起來都頭痛啊。。。雖然個人並不十分看好計量,但是它在「合適」的資料中表現有時是很驚人的。

當殺雞用牛刀時,不僅費力氣,還可能殺不准。

4樓:王弗蘭克

不會

1、現在的深度學習主要還是深度神經網路。深度可能會繼續成為趨勢或標配,神經網路未必。

2、工程問題除了要考慮精準度外,還要考慮成本。很多問題上,根據No Free Lunch理論,普通機器學習演算法效能可能要優於深度神經網路。

3、入門同學不建議直接入坑深度學習,還是要學學機器學習演算法。熱點是不斷變化的,光追逐熱點的話,不利於深入研究。近期南大周志華老師提出了深度隨機森林,雖然目前只實驗了小資料,但已經在給目前的深度神經網路降溫了。

5樓:王大勇

深度學習是機器學習的一類技術,它通過分層結構的分階段資訊處理來探索無監督的特徵學習和模式分類。深度學習的本質是計算觀測資料的分層特徵,其中高層特徵由低層得到。深度學習方法發展迅速,目前有受限玻爾茲曼機RBM、深度置信網路DBN等。

深度學習是從機器學習中的神經網路發展而來的,由於的到大資料和計算儲存資源的支援而發展起來的。

6樓:

不會。我從以下幾個角度來回答:

1) 我把題主的問題轉述為:「深度學習是否可以在所有任務上取得比非深度學習演算法更好的表現?」。

假如這個問題的答案是肯定的,那麼深度學習會淘汰掉其他機器學習演算法;反之,則不會。我們先來看看現在已有的進展。深度學習演算法已經在影象和語音領域取得了突破,成為新的state-of-the-art。

但是在其他領域,比如自然語言處理領域,雖然有一些進展,但是尚不足以稱之為突破。從這個角度來說,深度學習演算法還沒有在所有任務上超越其他演算法。

2) 我們都知道,深度學習演算法成功的關鍵之一是大量標註資料。但是在很多實際應用中,比如生物領域,獲得標註資料的成本很高。這將限制深度學習演算法在這些領域的應用。

7樓:張瑞茂

不會呀,從某些角度看,深度學習更多是提供了一種學習的正規化,即多層結構、海量資料,端到端訓練等。但是並不等於這種方法就一定能夠取代所有機器學習演算法。

從機器學習現有的研究內容看:

一方面,很多針對具體問題的演算法,通常在深度網路的上層還是要結合另乙個模型的。比如Alan組提出的FCN+CRF。比如前段時間很多講Deep learning 與 metric learning 結合的問題等等。

另一方面,機器學習還有其他很多方面呀,比如強化學習(reinforcement learning)、自步學習(self-paced learning)等等

從深度學習的不足點看:

前面也說了,深度學習現階段是有一些固定的學習形式的。就拿資料量一點,多數深度學習模型就很難繞開。這其實和人類的學習過程還是相去甚遠的。

很多小樣本問題還是要靠統計推理的方法解決的。

8樓:張馭宇

不會。深度學習也屬於統計學習方法。人工神經網路的研究由來已久,一直與其它經典機器學習演算法並存,沒有淘汰誰一說。這些演算法各有優劣,具體用哪種要根據應用場景靈活選擇。

舉個例子,就拿最近很火的 AlphaGo 來說,由於快速走子(fast rollout)要達到微秒級的響應速度,神經網路目前還做不到,因此 Google DeepMind 採用了邏輯斯諦回歸(logistic regression)演算法。有機器學習背景的同學都知道,邏輯斯諦回歸作為一種線性模型,大概是最基本的機器學習演算法之一,然而並沒有像題主說的「有點多餘」,相反仍然有廣泛的應用和研究。

深度學習大佬 Yoshua Bengio 在 Quora 上回答乙個類似的問題時,有一段話講得特別好,這裡引用一下:

Science isNOT a battle, it isa collaboration. We all build on each other's ideas. Science is an act of love, not war.

Love for the beauty in the world that surrounds us and love to share and build something together. That makes science a highly satisfying activity, emotionally speaking!

是的,科學不是戰爭而是合作。任何學科的發展從來都不是一條路走到黑,而是同行之間互相學習、互相借鑑、博採眾長、相得益彰,站在巨人的肩膀上不斷前行。機器學習的研究也是一樣,你死我活那是邪教,開放包容才是正道。

9樓:

不會,都說貝葉斯學習要回歸了,看VAE、GAN最近挺火的,影象生成算是乙個應用方面吧;影象分割有CRF as RNN,也有人做Deep Neural Decision Forests,其他演算法怎麼會沒落?

我覺得深度學習給人很成功的印象原因之一在於它改變了解決問題的方式,以前可能需要分析得到解析解,從下到上的過程;而在難以分析得到解析解的情況下,DL通過資料經由訓練學習到想要的特徵。以前看起來其他演算法難以解決的任務現在DL都可以做到,令人震撼故而驚嘆。

DL的研究者們將其應用領域擴充套件,估計也考慮到了該領域原有機器學習演算法的特性,結合才催生了前述的幾個演算法例子。以前的演算法也是基礎,才能有後續的故事,不積跬步無以至千里,致前人以敬意。

Windows 會不會被淘汰?

airfre win終將被淘汰,但是微軟這個公司不好說。win淘汰的方式不太可能是一家公司做乙個更厲害的作業系統把他乾掉,而是像當年索尼walkman一樣,不是他不行了,只是沒人聽磁帶了。 陳斌 如果windows經歷乙個非常大的變更之後,跟最初windows幾乎不一樣了,它還是windows嗎.算...

窮人會不會被富人的淘汰?

秋乏術 不會呀,沒有窮人,富人們剝削誰?富人們之所以身家過億,是因為有無數個窮人被剝削了自己的 剩餘價值 讀讀馬克思的書,就知道什麼叫 剩餘價值 了。結論 某種主義的社會,富人會留一定的資源給窮人們,因為他們需要窮人們多生孩子將來給自己的公司提供勞動力。 清歡 不會,階級再怎麼固化也不會是完全涇渭分...

論有骨氣的人會不會被淘汰?

無名 有的人負責去死,有的人負責跟蒙古人搞好關係然後維持民生,順便再祭拜文天祥。這是從商周革命就開始的。這都搞不明白建議重修 易經 劉文麟 這個與環境的關係還是很大的,Air Mass 的答案中提到 強者的骨氣,是堅持一下就可以獲勝 但是 一下 是多長本身就很難界定,類似中國這樣的陸上大國,此處不留...