MCMC最近兩年有哪些比較好的文章?MCMC哪些子方向未來有可能比較熱?

時間 2021-05-07 03:53:04

1樓:

stein variational gradient descent: A General Purpose Bayesian Inference Algorithm

如 @陳默 所言的,一種基於gradient information和variational inference的method

2樓:Zhanxing Zhu

MCMC作為統計、機器學習以及統計物理中廣為使用的inference工具,其發展一直都由這幾個領域的人不斷的推陳出新。關於未來的方向,可能大致總結為以下幾個方向:

1. 大規模資料下的MCMC,即觀測資料點很多的情況下的快速取樣方法,stochastic gradient MCMC以及distributed MCMC,這兩個方向快讀發展刷破了近些年的icml和nips,已經趨於飽和,能做的基本是剩下的理論了;

2. 如何有效的取樣高維度的離散分布。這是經典難題,甚至如何打敗經典的Sweden-Wang都很成問題,是未來研究的熱點;

3. 如何在某些特定問題上將variational方法和MCMC進行結合來加快取樣,可以應用到Bayesian deep learning中;

4. 如何在大規模神經網路上做MCMC,尤其是當下對deep learning的引數的uncertainty quantification如此重要的時代,目前沒什麼好的突破;

5. 將sampler良好的性質來幫助優化神經網路找到好解,我們在這方面做了一篇nips以及ijcai的工作,有不錯的表現。

其實這些方向根本的難點一直都未完全克服:如何在高維空間中對於複雜的multi-modal分布進行有效取樣?

可能還有一些偏理論分析的方向我這裡沒有提到。

3樓:

The No-U-Turn Sampler: Adaptively Setting Path Lengths in Hamiltonian Monte Carlo

HMC 的乙個改進,如果你用 Stan 的話更要看一下。

4樓:Yao Wu

Stochastic MCMC 和 Distributed MCMC是兩個重要的方向。推薦看一下 Max Welling最近的文章 http://www.

ics.uci.edu/~welling/pu

blications/publications.html

近兩年有什麼值得二刷的電影?

LilB 我來答一下,應該是陳思誠監製的 誤殺 吧。我唯一乙個二刷的電影。婦聯4不算,第二次不是自願去的 第一次看的時候什麼也別管自己直接去,第二次選擇的乙個IMAX廳加上很好的音響效果,也是全程沒有尿點的。 絕世鹹魚 暫且將時間定為2017 2018年。排名不分先後 三塊廣告牌 乙個母親尋找公正之...

近兩年有哪些值得一看的國產電視劇集?

泡死於書海的魚 這幾天看完的 俠探簡不知 這部劇一開始很多人會覺得看不下去,覺得男主顏值不太高,看著看著其實也還行,開頭兩集劇情不算吸引人,相信我之後會越來越好看的!整部劇裡面又很多搞笑配角,畫風也很好,並且沒有什麼磨皮!劇情反轉也夠,反正就是蠻好看的!大宋少年志 這部戲也是角色很逗!也很好看,但是...

2021 年有哪些比較好的路由器推薦?

老炮兒許老闆 既然題主預算充裕,那首推領勢 Linksys 家的WiFi 6路由器,系統及其穩定,不宕機不斷流,還有獨家的三頻動態回傳技術,支援MU MIMO多裝置併發通訊。另外就是USB 3.0介面可外接行動硬碟 U盤和磁碟陣列,讀寫速度是我目前為止測試到的路由器中最快最穩定的。老炮兒許老闆 打造...