為何要提出增廣拉格朗日乘子法呢?

時間 2021-06-01 06:46:37

1樓:

拉格朗日乘子法

能求閉式解,但往往要求乙個很大矩陣的逆,所以想用並行的思路和梯度下降來代替直接求閉式解。於是有了對偶上公升。

對偶上公升

能並行+梯度下降/上公升,但是原函式又必須滿足強對偶。於是又有了增廣拉格朗日。

增廣拉格朗日

新增了乙個懲罰項,懲罰項前面的係數不用特別大(還能防止病態矩陣)就能使原問題強凸。這時又可以對偶上公升了,但是不能並行。於是又有了ADMM。

網上搜增廣拉格朗日的內容,要麼是直接告訴你怎麼用(太簡單),要麼就是推薦教材(太耗時),找到乙個不短不長有例子的slides。

2樓:哎呦喂

因為拉格朗日乘子法只是簡單的求解一類簡單的函式最優解問題(具體參看高等數學中相關解法),而增廣拉格朗日乘子法(ALM)是求解一類帶有特定結構(主要是針對凸規劃)的非光滑等式約束優化問題, 增廣拉格朗日乘子法又可分為精確增廣拉格朗日乘子法(EALM)和非精確增廣拉格朗日乘子法(IALM),一般是IALM相對EALM更簡便,IALM只需得到乙個子問題的近似解,就足以使演算法收斂到原問題的最優解(具體可參考相關文獻)。

菩薩為何要布施呢?

潛心 你這是用常人思維去思量菩薩境界了 把菩薩與外在萬有割裂開了去看了。注意,既然菩薩已經無我,那他的存在就是與外在萬有融為一體了,並沒有區別。在你看來,布施是從菩薩自身到外界的施予,但所謂的 外界 對於菩薩來說也在 內在 所謂布施,只是一種自然而然的 共運 同演 諧振 類似於老子所說的 無為而無不...

要怎麼跟有雙向情感障礙的人提出離婚呢? 早戀的代價真大

以我的經驗不會,最多威脅一下。這樣的人不值得同情了。我老公也是同樣的病。我和你一樣因為道德約束,因為他的一句你才是我活著的動力才一次次的原諒他,我的耐心在一次又一次的折磨下也耗光了。更可怕的是我們有孩子,他的病也是有了孩子以後才發現的。但最根本沒有離婚的原因不是怕他自殺 樓主還是善良,我恨不得他自殺...

淫慾不是快樂之源麼,為何比丘要消滅它呢?

光明之子神兒女 淫慾怎麼會是快樂之源呢?想想有哪乙個人有姦淫的慾望他的心裡好受呢,人若犯了姦淫,良心會有不安,會譴責人也可能會譴責自己,這就是人的良心的審判,在人還不認識神以前,神已經把良心放在人的心裡,讓人可以知道是非 羅馬書2章15節 馬太福音5章28節說,凡看見婦女動淫念的,這人心裡已經與她犯...