學習優化演算法需要哪些數學基礎?

時間 2021-05-12 06:58:03

1樓:

一般convex optimization課裡都會提到SGD,momentum,adam等演算法。所以我稍微偏一點點,提點convex optimization的材料。

主要還是線代的東西居多,少量的概率和微積分。一學期下來感覺在幹的事情就是不斷迭代,然後考慮boundary能哪些條件下以多快的速度壓到多低…

Stanford Engineering EverywhereEE364B - Convex Optimization IInon-convex optimization的東西就太雜了,不大好說。以後有機會上到了再補充。

2樓:weejong

優化演算法分為很多種,例如梯度下降、牛頓法、演化演算法等。具體到某一工程領域的時候就需要具體問題具體分析了。我本身不是電氣工程專業,但勉強算是電氣工程的兄弟專業。

這裡談一下我對電氣工程優化問題的觀察。針對電氣領域的優化問題,首先電氣領域的相關知識是必不可少的;其次需要複雜網路的相關知識,複雜網路本身就是交叉學科的產物,學習它的過程中,就要求具有不低的線代、矩陣論基礎;第三是控制論的相關知識,這裡同時也包含一定地對復變函式的要求。另外據我的觀察,電氣領域好像演化演算法,例如粒子群優化、模擬退火使用的多一些(存疑)。

演化演算法的學習就相對簡單一些,本身並不需要很高的數學基礎,屬於拿過來就能用的工具,不過,同樣地,根據不同的問題,要依據本專業的相關知識來設計進化運算元,設計精巧的、高效的運算元這一點應該是優化問題的難點所在了。

學習離散數學,需要哪些基礎?

馮文翰 題主題目和題目描述不符啊。大一上 高等數學 上 內容包括基礎微積分 微分方程等內容。個人感覺目的在於為之後的概率論和某些具體領域的電腦科學 比如數字影象處理 神經網路等需要和求導打交道的方向 打基礎。大一下 高等數學 下 內容包括多維積分等內容。個人感覺目的同上。離散數學 真正的計算機基礎課...

學習資訊保安需要學習演算法和各種底層基礎嗎?

看你想走的方向,資訊保安有很多方向。你所說的需要底層基礎的安全方向主要是面對底層安全,二進位制安全這塊。具體的工作內容有逆向,軟體漏洞挖掘與利用,病毒分析,移動安全等。我是在15PB培訓的這個方向,底層基礎學的很多,演算法不怎麼涉及。網路安全概念很雜,範圍很廣,所對應的工作崗位也比較雜,但是不怎麼涉...

零基礎入行影象演算法工程師需要學習哪些課程?

建議python opencv的組合。python比C 更靈活且易上手,演算法驗證效率更高 opencv,完全開源,嘗試不同功能,介面,引數的意義,了解背後演算法,一步步積累 直接搬出來岡薩雷斯那麼厚的一大本,很容易被勸退,入門沒必要。 zju的小派 個人覺得以目前深度學習的浪潮,深度學習已經降低了...