用拉格朗日乘數法求出極值後如何判斷其是極大值還是極小值?

時間 2021-06-05 07:32:38

1樓:mathe

DrZXY的結論是錯誤的。

Hessian矩陣 如果是正定或者負定,的確可以判斷出計算出來結果必然是極值點,但是如果矩陣不定,我們不能得出其必然不是極值點。

比如我們選擇函式 在約束條件 下的極值

使用拉氏法,設

於是 得出極值條件為

於是得出 ,得出對應Hessian矩陣為

這個矩陣是不定的。

但是很顯然,在此約束條件下, 實際上是極小值點,所以方法有問題。

最主要的原因是Hessian矩陣在 中雖然不定,但是加上限制條件以後,其實只在乙個子空間內部,就很可能可以正定或負定了。特別如果加了n-1個限制條件以後,餘下就只有一維子空間了,只要這時二階偏導數不為0,就可以確定極值的型別了。

2樓:DrZXY

事實上是有的。

但首先,由拉格朗日乘數法確定的點不一定是極值點,而僅僅是取極值的必要條件。對於這一點,我們對高中的乙個常見例子加以改造即可說明:

設目標函式 ,約束條件

構造拉格朗日函式: 分別求偏導得到可能取極值的點為 ,但是顯然在這個點f不取極值,x可以任意大小,從而y也可以任意大小。

為究其原因,我們回憶這個例子的高中版本:設函式 ,當其導函式 的零點是0,但是在此處f並不取極值,原因就是f的二階導數6x在0的鄰域內發生了變號。因此,為了取極值的充分條件,我們還需要考察二階導數,而這在高維空間之中也有相似之處。

下面列出條件極值問題如何判斷可以點是否為極值點,以及是極大還是極小值點的法則,亦即條件極值的充分條件。有關的證明和解說我週六考完試回來就補。

定理. 設是定義在開集 上並且屬於 類的函式, 由約束方程組 所給出的 中的曲面,其中 , ,並且函式組 在 中的任何點的秩都等於 設拉格朗日函式 中的引數已經根據取極值的必要條件求出,則此時:

如果二次型

對於向量 (TSx0是曲面S在x0點出的切空間)具有確定的符號,則點 是函式 的極值點。

並且,如果上述二次型在 上正定,則 是區域性嚴格極小值點。反之為區域性嚴格極大值點。如果二次型在 上發生變好,則 不是極值點

我回來了,現在開始證明:

上述定理之中,涉及到曲面的切空間這個概念,因此,有必要對此概念進行介紹。

首先回顧三維空間中的曲線,我們將其看作乙個質點的運動軌跡,那麼它的三個座標xyz都可以表達成時間的函式 ,那麼在某個時刻 曲線的切線的方向就是該質點的速度方向,方向向量為 ,不妨設t0=0,則曲線的切線可以表示為: 此處x包含了xyz三個座標分量,簡記為乙個點x。

模擬空間中的引數曲線和其切線,可以大致構思出空間的引數曲面表示和其切空間的概念。試想上述曲線只有乙個引數t1,假設有另乙個引數t2,那麼當t2變化是它描述出另一條曲線。綜合t1,t2,固定t1,t2變化時就畫出了一族曲線,同樣的,固定t2,t1變化是也畫出一族曲線,那麼這些曲線就在空間中「織成了一張網」,當曲線連續變化的時候,就描述出了乙個空間中的曲面。

從對映的角度,我們由引數集合 對映到了空間集合 之中。

但是請注意,曲面的確可以用這種引數形式來表示,但是上述的概念的提出並不是乙個嚴謹的定義。例如,在實現t座標轉化的x座標的過程中,你能否保證x座標能夠轉化回去t座標呢?就比如直角座標和極座標的互化一樣。

如果不存在這種互化,那是無法保證你在兩種座標體系下描述的是同乙個物件。換言之,必須要保證上述的對映對於整個曲面來說,都是雙射。事實上這背後確實有引數曲面的嚴謹定義,它由反函式定理所保證。

但是此處我一來還沒有完全悟透,而來對定理的證明暫無大礙,故暫且採取如此簡單直觀但不夠嚴謹的解釋。

有了引數曲面的概念,聯絡曲線的切線的概念,曲面在某點的切空間其實就是此點所有線性無關的切向量所張成的空間。用座標形式寫出來就是如下的方程組: 利用矩陣可以寫成更為簡潔的形式:

.現在可以開始證明原定理:

首先由於對於拉格朗日函式: 後面的約束條件全是0,因此欲求f的極值只要求L的極值,在根據極值取得的必要條件(就是偏導數等於0那個: )求解出 之後, ,那麼在點 處,我們可以對L(x)作泰勒展開:

其中, ,Q稱為hesse矩陣。為了書寫方便,我們只取其中的一項的一般形式來表示所有項: 利用上文提到的引數形式,由 得:

其中,α從1到k遍歷取值。將此式代入上面的一般項得到: 對於上述二次型,由於它是連續函式,則在曲面上一定存在最大最小值,不妨設為M,m。

當其具有確定的符號時,不妨設為正號則m>0,負號的情況是類似的:

因為o是無窮小量,那麼當t足夠靠近0得時候,這個o會足夠的小直到其絕對值比m還要小,那麼當t處於這樣的乙個範圍時就可以保證上述式子為正,即: 0" eeimg="1"/>,這說明x0是嚴格極小值點。

但是,定理中的二次型不是 這個嗎?好像形式不一樣?事實上,這兩個式子只是同一物件的不同表述:

如果 是切向量,則 滿足: .那麼對於 之中的乙個分量 有:

成立。這說明定理中的二次型只是證明中需要判斷符號的那個二次型的乙個簡寫,它們是同乙個東西。至此,定理證畢。

怎樣用拉格朗日乘數法解高中線性規劃問題

介紹一種active set 的思想,步驟 第一步.先求無約束最優解。然後把解代入不等式看看哪些不等式不成立。如果不等式都成立,解題結束。這裡無約束最優解顯然是負無窮,負無窮太大寫不下,那麼先假設乙個解是x 10 y 10 Z 40 如果假設滿足所有約束,要再找個假設點,直到有約束不成立。正常來講是...

如何直觀地理解拉格朗日插值法?

我有乙個感受 就是基礎的兩個插值法拉格朗日和牛頓如果從兩點確定一條直線的角度來看的話,分別是兩點式和點斜式,只是由於點多了,沒法用一條直線過所有點,所以將這兩個方法衍生了。 Xipan Xiao 常規的證明方法大家都說了,我說乙個稍微不那麼常見的角度,我從我同學劉師兄那裡學到的,就是拉格朗日插值法其...

初二的我自己「發明」拉格朗日插值法,是否意味著我離人類知識邊緣只有421年?

水上麻衣 不是。拉格朗日插值法的出現距今421年,手機出現距今約40年,蘋果手機出現距今10餘年。手機到蘋果不過30年,但這當中的技術發展顯然要遠遠超過過去的百年時光。越臨近現代,技術發展的也越快。而且基礎數學也不能完全代表人類技術的發展。 灰瓷 1 你必須掌握1779年人類所能掌握的所有知識才能宣...