1樓：厭厭
首先，只有拉格朗日函式為凸的情況下才與原問題同解，否則無法保證解出的是最優解，它只是用來處理約束的，在用它之前先得把非凸這個問題解決了。
雖然這是個很新穎的想法，但深度學習中也是要求解乙個帶約束的非凸優化問題，這個問題的求解是通過優化器來實現的。你就算把這個問題完全等價於乙個損失函式，實際你求解也一樣是要解決這個問題本身。
打個比方就是，你想解決問題1，於是構造了與問題1等價的問題2，結果你發現你在求解問題2的時候是化成問題1再求解的。實際上，問題1正是問題2的子問題，你不能說把求根公式不好計算就化回方程來算吧，這不橫豎都得化回乙個求根公式嘛。
解決非凸優化問題有兩種思路。
第一種是通過凸鬆弛方法，轉化成乙個凸優化問題。
第二種就是直接用對症下藥的尋優方法。比如投影梯度下降、隨機梯度下降(SGD)等。
深度學習就是用SGD及其改進方法解決這個問題的。
2樓：
要看具體問題了，什麼約束，什麼目標。一般的約束的確可以用拉氏乘子法整合入網路，但是相應的，傳統的BP方法就不能用了，要用新方法來反饋誤差，或者說可能要混合使用不同的反饋方法。
帶不等式約束凸優化問題的求解 內點法 七
我和題主同歲，不過我是申美本的，我同學裡有申請日本g30的，所以來強答一下，可能有點偏題，但留學申請的大體套路還是相似的。如果日語完全不會的話可以申請英文g30專案，申請境外大學 非港澳台地區 其實和高考成績沒什麼太多關係，美國大學一般需要gap SAT和托福成績，但每個學校要求不同，具體要求學校官...
最優化問題中的非線性 非凸規劃問題，高效可行的求解演算法有哪些？
黃先生 非凸的庫 Mathematical software swMATH MINTO軟體庫 MINLP庫 CMU IBM Cyber Infrastructure for MINLP Pyomo 庫 全域性優化軟體 當然還有很多商業的 AMPL or GAMS 小眾的，IPOPT,要錢的Junip...
在數學中乙個非凸的最優化問題是什麼意思？
重直 凸優化問題 convex optimization 的定義是目標函式是凸 convex 的，且可行域是凸 convex 的。不符合這個定義的優化問題就是非凸的優化問題 non convex optimization 就這麼簡單 留德華叫獸 樓主我碩士運籌學出身，現在師從德國海德堡大學組合優化教...