包含兩個部分相減的目標函式有什麼好的方法讓其中乙個部分優先得到優化?

時間 2021-05-08 06:14:15

1樓:Cyber

試試給A加個懲罰係數,比如當A下降到乙個合適的值A0後,給定新的目標函式

L = k|A-A0|- b

k足夠大的話就可以把A固定在A0處了。

具體效果怎麼樣沒試過,不過在遺傳演算法中看到過類似的用法。

2樓:呂打滾

如果a,b都是凸的話,這是Difference of Convex(DC),是被研究過的,可以看horst,thuy等人的研究

如果都是線性,a-b是有凸性(線性)的,更就沒啥了其實這個問題我,理解為對a和-b兩個目標函式取最小值,這是個典型的multiobjective programming,不追求特別的性質的話,pareto解是很容易的

對解有特別要求的性質,這個問題就複雜了,首先題主似乎沒有辦法定義a和b的大小關係,那這個問題變成optimization over efficient set,NP

如果不追求精確解,調引數,或者加對數之類的吧

3樓:parker sheperd

像其他幾位說的一樣,可以類似a + lambda* 1/b 這種形式,然後再做優化。

如果喜歡用基於梯度的方法,就上FISTA。

還可以嘗試用ADMM,在我的方向,用ADMM的人已經比用FISTA的人多了。ADMM裡每一步都是closed form solution,收斂的會很快。

4樓:Esparami

@wangyang 說的有點問題,A,B都是關於引數的函式,那梯度下降讓A,B分別收斂到什麼和A-B收斂到什麼是沒有必然聯絡的。而且在優化後期題主說A,B都在同時變大。

題主說A,B都是度量函式,這倆是凸的麼?如果是最小二乘之類凸的話可以了解下D.C.

(difference of convex functions) programming,也可以試試ADMM (alternating direction method of multipliers)。

不過看標籤有深度學習,那就改下loss確認給A-B乙個下界,然後大概率還是梯度下降之類的最好使。

另外好奇下應用本身,A-B略粗暴了。。

5樓:wangyang

主要問題是A-B是發散的(0-∞→-∞),不收斂。要換個有下界的凸函式就好多了,比如A+w/B或者exp(A) + w exp(-B)一類的。

Excel的RNAK函式,這兩個式子有什麼區別嗎?

廓然 絕對引用和相對引用的區別。單元格引用包括絕對引用 相對引用和混合引用,按F4鍵可以對單元格引用進行切換。實際操作一下就會發現明顯的區別。 小白公子 就F3這個單元格來說,上面的那個公式都為正確的。但是設計公式,我們絕對不是只用在乙個單元格,因此絕對引用在公式拖拽的過程中起著大作用。那我們來認識...

為什麼兩個相交的圓的方程,相減得到的式子是經過他們交點的直線解析式

impossible 對於乙個圓的方程 如果我們把方程右側的零捨去讓它成為乙個多項式,那麼帶入任意點,得到的多項式的值就是這個點對圓的冪。這樣的話,令兩個方程相減也就是讓兩個方程相等,那麼得到的軌跡應該是到這兩個點的冪相同的點構成的線。而兩個相交圓的根軸 也就是等冪線 恰好就是交點的連線。 愚乎 你...

經常坐高鐵往返兩個城市,有什麼省錢的方法?

噹噹 用積分兌換高鐵票 null 買票的時候可以直接選擇受讓人使用積分支付 以前沒有用過的積分失效了感覺錯過了好幾億,寫著 兌 字的是可以用積分兌換的車票,要選擇受讓人不要選擇乘車人第一步 選擇自己的乘車區間,檢視帶有 兌 字的車次第二步 選擇受讓人 積分補登 還沒有使用過積分的或者在其他平台購票的...