高斯過程(Gaussian Process)的取樣是如何實現的呢?

時間 2021-05-05 15:21:56

1樓:

點取得足夠密就行了,用以下兩種方法都可以生成高斯隨機過程。

利用條件概率來產生高斯隨機序列。例如,已知P_ABC, 先根據邊緣分布P_A產生a,然後根據條件分布P_B|A( |a)產生b , P_C|AB( |ab)產生c....以此類推

根據高斯核(也就是自協方差函式),以及均值函式,推出自相關函式。對自相關函式做傅利葉變換得到頻譜圖,然後根據f_i頻點的傅利葉值c_i,大量余弦波疊加得到F= Sum_i c_i*cos(2*pi*f_i+theta_i),其中theta_i服從均勻分布。顯然,當余弦波數量足夠多,F是乙個均值為0的高斯過程,相關函式也滿足我們的要求。

進步一地,得到的高斯過程f再加上均值函式m(t)就是實現 realization=F+m(t).

2樓:

取樣就是在無窮維高斯分布下取乙個點;保證連續的話,Kolmogorov continuity theorem 應該是題主想要的吧。

3樓:

沒錯的話, 一定程度上來說, 在畫上面的圖的時候你並沒有先sample乙個function然後再plot上去, 而是你直接通過你的mean和variance把每個點給sample出來了. 換句話說你sample很多間隔很小的點然後把它們連成了上面的一條線.

4樓:

高斯過程的樣本是函式,函式是無窮維的,因此我們不可能拿到乙個完整的樣本,只能得到某個樣本在某幾個位置的值。高斯過程的有限維分布是高斯分布,因此只要給定幾個座標值,計算出高斯過程在這幾個位置的有限維分布,再對這個有限維分布進行取樣,就可以得到某個樣本在這幾處的值。如果按給定間隔取點,再畫出來,就是你給的圖的樣子了。

具體來說,給定高斯過程,和一列希望進行取樣的位置,通過下面的迭代演算法就可以得到該高斯過程的乙個樣本在這一系列位置的取值。

1、設,。根據取樣出第乙個值。

2、假設已經得到了個取值,第個取值可以通過對條件分布

進行取樣得到,高斯分布的條件分布也是高斯分布,具體形式可參見Multivariate normal distribution。

具體計算如下,設,,

,,計算,

。再根據取樣得到第個值,就可以以增量的方式得到。

這個演算法的複雜度應該不算高,因為每一步需要的可以通過Schur complement利用上一步得到的和計算得到。

連續和可微我不是太了解。不過我(瞎)猜是不是可以通過對和進行限制,使得對於任意和 ,有和,則連續,有和,則可微?這裡。

5樓:Dai Zhongxiang

可以把Gaussian Process 想象成乙個infinite-dimensional Gaussian distribution, 橫座標上面的每乙個點對應乙個dimension (variable);這樣的話每一次從這個infinite-dimensional Gaussian distribution取樣的話得到的是乙個infinite-dimensional的vector,然後畫出來就是一條平滑的曲線啦。

6樓:陳默

你取樣不出function,你能取樣出在這個function的點。點足夠密畫出來的看起來是平滑的曲線。而實際上這個函式是處處連續處處不可微。

高斯過程回歸能不能新增T分布或者高斯混合分布的雜訊呢?

驀風星吟 無論是理論上還是現實中,當然都是可以的啦!事實上在高斯過程回歸中noise的形式也即likelihood的形式並不是GPR模型的核心,但是這個高斯noise的假設卻可以為GPR模型提供closed form的的解析解,這是因為原先的模型是 如果我們再assume其中的noise也來自高斯分...

高斯過程說它是非引數模型,這點怎麼理解?

We don t want to specify upfront how many parameters are involved?We d like to considerevery possible functionthat matches our data,with however many ...

如何通俗易懂地介紹 Gaussian Process?

Jie Wang 幾乎零基礎要求的入門講解 An Intuitive Tutorial to Gaussian Processes Regression 就是將柱子圖變成波浪圖,引申到多維操作同理。比如,用探針有限次取樣的方式,得到乙個表面資料,將資料進行一次平滑運算,就是乙個高斯模糊過程。 sha...