如何通俗易懂地介紹 Gaussian Process?

時間 2021-05-12 14:56:22

1樓:Jie Wang

幾乎零基礎要求的入門講解:

An Intuitive Tutorial to Gaussian Processes Regression

2樓:

就是將柱子圖變成波浪圖,引申到多維操作同理。比如,用探針有限次取樣的方式,得到乙個表面資料,將資料進行一次平滑運算,就是乙個高斯模糊過程。

3樓:shawn

通俗地講,GPs = bayes + kernel。具體推導參考gaussian processes for machine learning第二章regression。

個人認為,當你只想通俗地理解機器學習裡的模型、演算法,而不是親手去推推公式,我覺得你還不如不理解,因為這對於你解決實際問題毫無意義。用GP對資料建模,首先得考慮下面幾個問題:

(1)如何選擇核函式

選什麼核函式(這點非常重要)?選最常用的SE還是SMP還是混合(基於對資料的理解)?

(2)超引數物理含義是什麼?

訓練完模型後,大部分情況下測試效果不會很好,再回頭看看學到的超引數變化如何?那麼問題來了,這些超引數又代表什麼物理含義呢(基於對核函式的理解)?

(3)非高斯似然函式

對常見的分類任務來說,似然非高斯分布,此時共軛優勢不復存在,如何找到最有效逼近後驗的方法(EP?VI?)

(4)異方差

事實上,很多lable都不是簡單的高斯分布,甚至label雜訊都是異方差分布(比如label值跨度超多幾個數量級),又該如何解決(可參考warped GPs)?

(5)如何用於大資料

最後的最後,面對大資料呢,GPs最大的瓶頸就是立方複雜度,這裡有很方法,個人覺得最巧妙的想法還是FITC,還有採用分而治之想法的BCM等;

(6)與dl的結合

參考deep GPs

4樓:

你不知道函式長什麼樣。但是你有一些樣本,還有這些樣本的函式值(帶雜訊)。高斯過程可以通過kernel距離,給你把這個函式補出來:給乙個新的樣本,高斯過程可以告訴你函式值是多少。

用途很廣。比如神經網路有很多超引數要調,神經網路loss可以看作是超引數的函式。你可以用不同超引數訓練,得到樣本和函式值,然後用高斯過程把函式補全,指導你下一步該怎麼設超引數值。

5樓:Dennis Wang

晚點來寫,不過我不太喜歡張口閉口說在machine learning裡面什麼什麼的。這種東西還是在Bayesian 的framework 下解釋好。:)

6樓:Jaykay.Z

首先大家理解什麼是高斯分布吧,就是那麼個鐘罩一樣的分布。

那麼大家能不能理解兩維的高斯分布呢?就是兩維空間裡面的乙個橢圓一樣的東西?

長這樣如果兩維的也能理解,那就好辦了。

因為我相信你大約可以理解n維的高斯分布了。

長這樣:

現在假設我們想研究時間從0到T這個時刻的乙個過程f(t)。

那麼首先想象我們把0到T分成N份,t1 t2 t3 ... tN, 或者說把這段時間離散化了。

然後我們就會有一堆函式f(t1), f(t2), f(t3), f(t4)... f(tN).

也可以寫成

(f1,f2,f3,f4...fN)

這是乙個N維的向量。

現在我告訴你,這個N維的向量滿足N維的高斯分布。

當然了,因為這個N維是腦補出來的,因為f(t)大概不是離散的而是連續的,或者說N趨於無窮大。

那麼這個f(t)就是高斯過程。

小朋友們,你們懂了嗎?

如何通俗易懂的介紹Kolmogorov的湍流各向同性理論?

Michael Zhang 結構工程師前來 硬答 Turbulence isisotropicif all the mean quantities areinvariantunderany arbitrary rotation of coordinates.這是教科書上的解釋 我們可以觀測湍流中的一...

如何通俗易懂地解釋棒球規則?

老薑 沒有辦法。目前為止,我沒見過一篇能通俗易懂地介紹清楚棒球規則的文章。如果誰能講明白,就發財了。美國棒球協會幾十年來都一直想開啟中國市場,但是一直沒有人能用中文解釋清楚棒球規則,所以99 以上的中中國人始終都不懂打棒球的在幹嘛,所以美國棒球協會只能眼巴巴的看著nba在中國賺得盆滿缽滿。足球,踢進...

如何通俗易懂地解釋外微分?

null 外微分 和 Stokes 定理 大概是對應廣義的通量面積密度 對應 和散源強度體積密度 對應 對定向流形的邊界的積分 form 積分除以某種 維體積的密度.或許先對 的矩形證明 Stokes 定理是更簡單的引入.詳見這篇文章 john chen 我也是想理解外微分所以才找到知乎的這個問題,...