機器學習中用到哪些矩陣知識,如果要補這些知識,求推薦合適的書籍資料?

時間 2021-05-12 00:44:58

1樓:

如果就是做應用系統,大概一般的線性代數書就夠了,比如 Horn的矩陣分析,如果要往深入走一走,可能就要用到點矩陣流形和李群的東西了,因為這個網路優化實際上是在流形上完成的,需要從這個角度去理解和分析。

2樓:

1. Artin的algebra

2. lax的線性代數

3. hoffman的線性代數

4. Golub 的matrix computation

3樓:小苦力

高票答主的有乾貨,值得收藏,但是如果追求效率,我只推薦張賢達的矩陣兩部曲,中文教材,內容詳細,足夠ML用了。。。記得刷下課後題。。不做題其實啥也學不到。。。

4樓:Daniel Guo

雖然有些答非所問,但就機器學習的數學基礎角度來說,概率論的重要性要高於線性代數。線性代數倒是在工程學尤其是機械人學中有著重要地位。

5樓:阿平

樓上的答主一上來就是各種斯坦福各種MIT,都能把不知道的嚇得夠嗆。其實很簡單,題主踏踏實實地把大學的高等數學和線性代數教材啃個透就完全夠用了!其實我也是畢業了才知道大學基礎課程地重要

6樓:

高票回答給的答案比較全面。

我這裡講一下對於特定人群的:

1. 有沒有現代基礎均可以;

2. 機器學習方向;

3. 想複習一下現代但是又沒時間把現代全部從頭到尾來一遍。

強烈推薦:

Machine Learning - Stanford CS229的Section Note - Linear Algebra Review and Reference

看過自然懂

以下幾個優點:

1. 零門檻:即使連矩陣是什麼都不知道;

2. 覆蓋全面:基本包含了ML裡面需要用到的現代知識(特徵值特徵向量、Hessian、矩陣微積分);

3. 講解的通俗易懂(不要懼怕英語,用的都是初高中詞彙)。

7樓:

數值線性代數 (豆瓣)

矩陣計算 (豆瓣) SVD QR分解最小二乘法高等代數/線性代數 、(多元)微積分、概率論與數理統計機器學習問題的數學表示

凸優化 (豆瓣)

實用最優化方法 (豆瓣) 模型訓練 SGD mini-batch SGD (深度學習就這了) 拉格朗日乘子法(sparse model 壓縮感知等用的比較多) newton 共軛梯度 BFGS(神經網路高階優化方法)最小二乘法

都在課堂裡學過。。

8樓:吳秉哲

需要的知識分為兩個部分吧, 一部分是基本的高等代數的內容, 比如矩陣特徵值,矩陣的各種分解,二次式等等。 另乙個就是數值代數的一些內容(線性方程組的解,共軛梯度,SVD分解, QR分解等等), 這部分感覺還是比較重要, 它既是線性代數的乙個拓展, 也是最優化的乙個基礎, 反正我感覺我本科時候學的最有用的一門課就是數值代數了, 現在各種地方用得到。

關於線性代數推薦先看看PRML這本書前面的簡介, 了解一下自己哪些概念不熟悉, 然後再開始去翻教科書裡面那些不熟悉的東西。 數值代數推薦北大出版社的小黃書, 也是我當時用的教材。講得比較清楚,看起來也較快。

吳恩達的機器學習課程中,用矩陣實現的梯度下降是批梯度下降演算法還是隨機梯度下降演算法還是與這兩個都不同?

已登出 剛好前幾天我研究了批量梯度下降 隨機梯度下降和小批量梯度下降的不同,關鍵是要看你用什麼值來更新你的引數。就隨機梯度下降而言,你用矩陣求出每乙個樣本所對應的各個偏導值之後,用每個樣本對應的偏導值依次對引數進行更新,就是說每次更新引數都只用到乙個樣本所對應的全部偏導值,這就是隨機梯度下降。他的優...

機器學習應該準備哪些數學預備知識?

曾經的假設 線性代數不夠,要學矩陣論 微積分不夠,要學數學分析 其實真要急著應用,可能只需要看矩陣求導這一部分。另一門最最重要的課是概率統計,或者概率論。PRML對於概率 變分等數學基礎會提到,但基本不夠,有需要另行自學。我只是大學生,請當作我寫給自己看的。 雷明 主要用到了下面的知識 微積分,包括...

機器視覺需要學習哪些數學知識?

機器視覺MV和計算機視覺CV是有區別的,機器視覺面向工業應用獲得影象中目標的幾何資訊 尺寸 面積 有無 位姿等 機器視覺的工程應用並不需要太多數學知識。而計算機視覺需要通過模式識別和概率統計等基礎。機器視覺中,僅僅是影象的儲存與矩陣相似而已。由於他的主要目標是獲得幾何資訊,更多的是畫素數的加減乘,以...