Jacobian矩陣和Hessian矩陣的作用是什麼?

時間 2021-06-01 22:12:58

1樓:

一般說jacobian矩陣是指向量對另外乙個向量的一階導數。而Hessian矩陣是乙個標量對乙個向量的二階導數。前者在離散pde 中常用,後者在優化中常用,但是都是作為線性或者非線形系統的係數矩陣, 即A*x=b。

在優化中根據hessian的特性(nonsingularity, indefiniteness/positive-definiteness, ),還可以判斷優化問題的適定性(well-posedness),second-order sufficent optimility conditions.

當然你可以說hessian是nabla J的Jacobian矩陣。

二者都可以看成是taylor series中的一部分,所以主要是用來線性化或者Quadratic Programming中,本質上是為了計算某種correction. 記住在離散的世界,我們基本只能處理linear or quadratic systems, 所以對於其他非線性系統,只能採用taylor 展開,然後上newton.

2樓:

既然問了Hessian,主要是在Optimization裡用的比較多。

假設輸出是乙個scalar.

Jacobian就是廣義輸出對廣義輸入的sensetivity。

Hessian就是在這個基礎上再加一級Jacobian,得到 local 曲率的乙個描述。 有了曲率,演算法本身這個面長什麼樣才比較有數。

jacobian矩陣的幾何意義?

一句話,jacobi矩陣是微分這個作用於區域性的線性變換的矩陣表示。下面做一些簡單的解釋。對於一元函式,jacobi矩陣就是導數。雖然我們習慣把導數看做斜率,但是我們現在不妨換個看法 如果你把一元函式的作用看作是數軸的拉伸,那麼導數就是區域性的伸縮比率。這樣的好處是容易推廣到多元函式。因為,對於多元...

矩陣左乘初等矩陣和右乘初等矩陣為什麼是乙個是行的變化,乙個列變換,怎麼變?

德川Captain 對單位矩陣E施以初等變換得到的矩陣稱為初等矩陣。三種初等變換對應三種不同的初等矩陣 1.初等倍法矩陣 以數 乘單位矩陣的第 i 行 列 得初等矩陣 2.初等消法矩陣 以數 k 乘單位矩陣的第 j 行加到第 i 行上 或用數 k 乘單位矩陣的第 i 列加到第 j 列上 得初等矩陣 ...

如何比較GE矩陣與BCG矩陣,它們的相同和不同點是什麼?

一支神筆諮詢 這兩個模型都是用來進行戰略分析的 區別 BCG矩陣法 制定公司層戰略最流行的工具 波士頓矩陣是用市場增長率 相對市場占有率矩陣來對企業的戰略業務單位加以分類和評價。認為一般決定產品結構的基本因素有二個 即市場引力與企業實力。一 市場引力包括企業銷售量 額 增長率 目標市場容量 競爭對手...