了解 從事機器學習 深度學習系統相關的研究需要什麼樣的知識結構?

時間 2021-05-07 04:36:10

1樓:

搞機器學習系統的其實有兩撥人。

第一類把系統當工具:為了提高機器學習的效率,提出新的資料表示格式

計算過程抽象

平行計算框架

這個流派主要是具有機器學習背景、理解演算法的人,架不住自己碼力很強,覺得現有的工具不好用就自己造輪子。門檻非常高,要理解機器學習且程式設計能力強大。典型代表:

MXNet的作者,伯克利RISELab。

第二類把機器學習當應用:為了灌水(?),針對機器學習任務重新設計網路拓撲

資源排程器

作業系統網路棧

這些人大部分是傳統的系統研究者,可以算是蹭熱點的一種方式吧。需要了解系統,會吹故事。典型代表:MSRA,幾個系統強校的網路組。

哦,還有一些人在用機器學習完成系統裡傳統來說用heuristic方法的決策,比如檔案系統索引、資料庫優化。個人認為這不屬於機器學習系統。

2樓:弱雞

1。 linear algebra, probability theory這兩個是最基礎的數學

2。 高階:optimization method (linear and nonlinear programming)

Statistic signal processing (or Detection and estimation theory)

statistics (個人覺得它裡面那個confidence interval 有點扯淡, anova啥的有點概念就得了)

stochastic processing analysis, 個人覺得重要

3。注重實踐的話:algorithm(知道點就行), data structure(data不大的話不看也沒事), 有時候也需要點點graph theory

4。然後就是看具體方向了,做image的那computer version得學過吧?nlp方向的不太了解。

做reinforcement learning的話, adaptive control不知道也得把《reinforcement learning》這本書讀了把

至於專治ml和deep learning的 pattern recognition 和 deep learning這兩本寶典,誰通讀過誰知道呀。

如果我想從事機器學習或人工智慧,我應該輔修心理學還是數學或神經科學嗎?

逆行 數學,特別是統計數學,概率論,線性代數,數值優化。神經網路最初是有點借鑑神經科學的思想,如多層感知機,進行資訊傳遞,模仿神經元的突觸結構。但是現在的深度學習的模型已經跟神經科學沒什麼關係了,沒必要去學神經科。 王榮勝 涉及學科哲學和認知科學,數學,神經生理學,心理學,電腦科學,資訊理論,控制論...

學習深度學習是否要先學習機器學習?

作為乙個在數學系學統計做過機器學習,工作後搞深度學習的人,我可以很負責任的告訴你,不需要 理論上來說,深度學習確實是機器學習的一部分。十年前,深度學習其實還叫 ANN,是存活在機器學習裡的一小部分 別噴,我知道現在主流是 CNN,跟ANN不同 但是實際上,深度學習是乙個用計算機算力暴力求解問題的函式...

深度學習與機器學習的關係是什麼?

瘋貓子 沒有一種技術的發展是孤立的。開局一張圖 深度學習是機器學習的乙個重要分支,深度學習和機器學習的關係屬於繼承和發展的關係,其實不單單是這一分支如此,幾乎所有的演算法分支都是早期技術的重組 繼承 發展而來。如上圖所示,我大致把這些技術的繼承發展關係用導圖的方式進行展示,圖中沒有標註顏色的都是發展...