1樓：
任何科學都是服從猜想-驗證正規化的，也就是說都是實驗科學.....
如果有乙個學科真的可以做到理論指導實踐，那麼意味著理論的絕對正確，那是神才能做的事情。
2樓：悟冥
這麼多人關注了這個問題，很多人瀏覽，發表自己的觀點。簡單瀏覽了下回答的同學，大都在關注何愷明和馬老師的關於隨機網路的內容，乙個側重引數隨機，乙個側重結構隨機。但無論如何，大家都是在一定理論支撐下完成的對比試驗，得到合理的試驗結果。
第二個關注的點是從模型訓練所驅動的TPUs的數量角度來說明，理論科學和實驗科學之間的差異。
題主：AI是否正在變為實驗科學？
我個人的感覺是，正在向實驗科學靠攏，實驗科學講究的是：實驗的可操作性、實驗的正確性（確定性）、實驗的可復現性。這也是好的，物理學的發展也是從實驗科學，不斷分析，思考總結出來的。
並在全人類推廣，當推廣到一定階段，會逐漸的有清晰的劃分，有人研究理論科學，有人研究實驗科學，都對物理學和人類的發展做出了貢獻。
模擬到當下的AI科學，也是強調實驗性，並看重可復現性（甚至這對這一點，各大頂會都強調這一點），現在可以看是全民AI實驗，逐步發展和演進後，定會分化成幾個大的分類，從理論和實驗多角度去存進AI的發展。
當前這個時代，是個最好的時代，理論到實驗的驗證週期在被縮短，使得這個過程在細微之處交替進行。
請大家輕拍！
3樓：
實驗科學不是壞事。好的實驗，有insight的結果，比基於N個不著邊際假設下推導的理論強得多。當然我說的不是馬毅老師。至少馬毅老師搞理論不亂加assumption。
馬毅老師批評的是尤洋同學的工作。我跟尤洋還算熟，以前經常見，聽過一兩次他的talk。尤洋是搞HPC的，動手能力極強。
HPC的人搞Machine learning真的是簡單粗暴，根本不按優化和ML的規矩來，可是有時候還真挺有效。從聽尤洋的talk和跟他私下交流來看，我估計他的演算法確實是暴力試出來的，感覺其中缺少Machine learning和優化角度的insight。善意的批評對尤洋同學的科研並沒有壞處，沒什麼不妥。
4樓：
Excuse me？AI 自始至終都是實驗科學好嗎？研究人員從資料中發現問題提出假設根據假設提出解決方案最後設計實驗去驗證解決方案
5樓：
馬老師的學術生涯我等小輩是黑不起的，在sparse, low-rank應用上的影響力也是難以望其項背的。不過拋開學術成就，馬老師是個著名噴子，逮到什麼噴什麼，對他的話也不必太在意。他自己本身就是做應用出身的，還喜歡說別人的工作沒有推導都是trick，他自己的文章倒是推了幾個有意義的Bound?
把Tao和Candes的文章寫的通俗一點就是Contribution了？
6樓：chenzhao
必須得啊，要不為什麼說先進的技術是state of the art，近乎藝術。就要有些說不清楚，理論無法完全解釋的部分，就像中餐炒菜，中醫診斷憑感覺經驗一樣，在這方面和生化環材沒有區別。
7樓：
傳統的統計本來就需要做很多實驗。記得統計系的課中就有專門設計實驗的課（可能還不止一門）。
不可能完全成為實驗科學，但肯定需要實驗。從工作中看來，如果純粹的做實驗來瞎試，這是最低階的。但是業界很多團隊（甚至大部分團隊）是這樣做的。如果不做實驗，就更是扯淡了。
8樓：bplzl
某種很大程度上是這樣，至少表面上是這樣：AI的競爭逐漸變成拼數值演算法、拼算力、拼人力了。但任何學科的發展都需要在實踐領域作深厚的積累和鋪墊，類似19世紀末期，實驗物理對理論物理的推動作用一樣，對AI和深度學習的應用研究及神經科學的進步必將推動人類對意識及大腦機制的最終掌握。
9樓：1234
勸退學科？其他專業加起來有那麼多崗位空缺沒有？年薪能吊打ai崗的都拉出來遛遛？
純數這幫酸子，有天天酸ai的功夫，麻煩把自己研究往前推進點行不。
10樓：聖地牙哥甜橙
作為乙個行外人，我弱弱說一句：AI被我們投入了太多期望值，垂直領域的企業家指望著AI可以帶來經濟效益，其他企業家希望AI技術的進步可以降低自己的運營成本，同時每個人都害怕被新技術拋棄，害怕被競爭對手反超。
老百姓指望著AI可以帶來更多生活的便利，技術宅希望AI可以帶來更多的樂趣。
連小學生寫作文都把未來描繪成乙個AI無處不在的時代。
是的，我承認，21世紀經濟利好不是我們所期待的生物工程技術和AI技術，而是觸手可及的網際網路經濟。
AI行業的確很棒，創收可觀，但遠遠沒達到普及的程度，目前來看這還是金字塔尖上的東西！需要諸位！開拓出一片天地！
AI技術不是空中樓閣，高樓平地起，需要慢慢往上壘…
非常不專業，勿噴，我只是覺得任何科研成果都值得被尊重，任何勞動者都值得被尊重。我作為乙個小老百姓，也希望科技不要停滯不前，不要讓各位的努力付諸東流。
11樓：東北方
在基礎學科(生物學科，神經學科)沒有出現質的突破前，這是必然的。對於人的思維，我們不知道神經元是怎麼處理的，只能靠猜。要猜準確，是不是得經過大量實驗？
所以，AI最終也變成了實驗，基於大量資料的實驗。類似的例子還有很多，我就不舉了。其本質都是基礎學科無法突破。
說了這麼多，我只是想表達我認可的乙個觀點：人類現在處於乙個科技大停滯的狀態。
12樓：CurbsideVasily
AI本來就是實驗科學，實踐是檢驗真理的唯一標準。沒必要貶低（調參）工程和實驗，幹好也需要真本事。
理論研究是少部分科學家做的事，沒有聰明的大腦就別操心了。現在覺得AI偏實驗缺理論是因為還沒遇到它的牛頓，都是摸石頭過河，所以糙快猛的堆顯示卡堆資料堆結構猛調參容易出結果，大部分調參工憑藉玄學調參經驗也能混口飯吃。
13樓：
先問是不是再問為什麼
AI一直都是實驗科學，調參充滿各種玄學，跟生化環材的本質區別就在於錢多錢少，何來正在變成實驗科學一說
14樓：
我覺得他說的對也不對
雖然dl的確是調參玄學，沒有理論根據。
但是傳統的ml真的和這個有區別麼？比如壓縮感知，有誰能告訴我為什麼要追求稀疏呢？dl模型的出世不是就證明了，稀疏不是必須的麼？
那麼回過頭來，那些之前從稀疏性延展出去的「理論」，他們的insight又有幾分可信呢？
我覺得機器學習其實一直都在煉丹，傳統的ml最後要服人，最後還是得跑個分，這點兒從來都沒變過。變的只是原來先推公式，然後再做實驗。現在上來就個你bia個architecture，然後就直接跳到實驗部分。
看起來似乎的確是dl更加粗暴，但是只要最後依然是實驗結果說話，那麼調公式和調結構，都只是從結果出發再來修改先驗，極少有工作是反過來的。
15樓：西瓜
我現在已經覺得除了純數其他所有行業都是調參俠了…統計cs應數經濟做到後面感覺都在調參全民調參
太depress了
證明證不出來都想快點出結果選擇憋大新聞的with probability one憋不出來也沒有教授願意advise 最後要麼默默去業界沒有job market 要麼第三第四年迅速轉變心態做調參俠
感覺看不到轉變的希望
我不是純數的…我就是乙個想做一點有用的東西的學生而已。可哪怕做最基礎的優化，都有一堆未解決的問題，更不要說NN…每次遇到這麼複雜的東西都深感絕望，哪怕model和引數work，也不知道為什麼，有時候能給點intuition，有時候連intuition都沒有，就瞎試試出來的。
但我又不喜歡純數，我是想做工程熱愛工程想做一些有用的東西。但我又不想做了有用的東西卻不知道為什麼有用。最想做的當然是做又有用的又有理論解釋的東西。可能野心太大了吧。
所以呀，我的負面情緒，本質上都是對我無能的憤怒和無可奈何。
16樓：
可能我的如下說法會得罪人，不過我人微言輕，直接說了，感覺早期機器學習理論學者有個毛病。
他們嘴裡的結構，資訊等數學話術，和生物意義上，人類認知意義的結構，資訊到底差別是啥，他們從來沒給過正面回答，只是一味地賣弄數學字眼。
當然，現在做dl實驗的也好不到哪去，他們說的資訊丟失，我至今無法理解。
兩邊各打五十大板。
還有，壓縮感知是國內數學頂級惡俗研究。
17樓：墨雨蕭軒
感覺馬毅老師有點理想化了。並不是所有的研究工作都必須是非常具有novelty的。雖然大家往往都看不起incremental的工作，但是這些工作也是必要的。
只有開山之作而缺乏填坑的工作的話對於AI這個新興領域也是不健康的。
BERT作為NLP領域乙個最新的並且備受矚目的模型，其中的內涵還仍未被很好地挖掘出來。這樣一篇改進BERT pretraining實際時間的工作（通過提出乙個新的optimizer）還是非常有意義的，能幫助更多的科研人員走進BERT模型。不過這個工作只是降低了實際的pretraining時間（通過增大batchsize&增加TPU），並沒有降低TPU總時間，所以一般人還是pretrain不起BERT（pretrain一次幾千刀）。
實驗是AI領域研究乙個非常重要的部分。目前的AI領域確實存在著相關理論不夠完善的問題，但是AI領域已經開始落地，開始產業化，開始走進了大家的生活。只要AI的發展能真正幫助到人們的生活，它是不是正在變成還是已經變成一門實驗科學又有什麼問題呢？
18樓：未知使用者
有意思，怎麼沒有人提到馬老師的RPCA。馬老師當年的這篇文章就是基於compressive sensing，護犢子，哈哈！ 馬老師說的random projection 的核心思想是Johnson-Lindenstruss Lemma。
19樓：
馬老師我是很佩服的。
他說的是有點看不上現在的研究方法的。但是我認為這是武功套路問題，殊途同歸。
理論非常重要，我們幹這行的大家都知道，也都想做。但是，乙個是做不動，乙個是做了沒效果。進而大家換了研究方法，實驗的方法來做，前段時間sutton也說了算力這種類似的東西。
價值取向的東西很難說誰對誰錯，認準自己覺得對的東西了，一股勁做下去，讓歷史證明就好了。
20樓：[已重置]
題目中馬先生的說法有道理但也有問題。 隨機投影可以保持資訊是一回事，但找到可以解決目標問題的那個好的結構還是不容易。 感覺他的意思和那個被楊立昆懟過的終極學習機的意思一樣，隨機的足夠寬的淺網路是理論上可以解決問題，但是找到解仍然不容易，實際上這種『無結構』的網路找到解的複雜度是高於有結構的深度網路的，因為其沒有使用對問題的低複雜度的有效表達而只用了一般的高複雜度的表達，效率一定是低的，所以這類網路只能在小資料集上有較好的效果，對複雜資料是不行的。
至於基於隨機網路的NAS，針對一般無明顯結構問題，也許只能這麼做，但是對影象這類問題，基本效能大致相當現有人為設計的結構。而且哪怕是基於隨機網路的搜尋，其結果其實一定不是無結構的，因為網路搜尋的目標是找到對問題的結構的最優化表示，對於DL的深層理論的理解的核心內容之一就是找到網路結構與功能的關係。個人認為，一般的現實問題，這個結構不會是真正隨機的，因為這個物理世界是有序（低複雜度）構造的，絕大多數物理系統都是有結構的。
我能想到的乙個可能真正隨機的系統是一般的時空結構（多宇宙觀點下），但我們自己的宇宙的特定的時空也不是無結構而是有良好結構的，否則我們宇宙的有序結構是無法形成的。
靠AI 在死後啟用複製人繼承權益是否可以實現永生？
靠AI 在死後啟用複製人繼承權益是否可以實現永生不是我們這代人能夠回答的問題。但凡一切涉及到生命科學前沿的問題，很少能很純粹，純學術問題除外。首先，這裡必定涉及腦科學，即為了符合題設要求，必須有記憶移植或者複製技術。這裡需要強調的是，這不僅僅是乙個醫學問題，還涉及法律 倫理道德等複雜而又棘手的問題。...
日本動漫是否正在衰弱？
吱吱吱吱吱 咒術迴戰這個男主的聲優配的是真爛，我的天吶，晚上看工作細胞black，我是第一次因為配音差點看不下去一部日漫。也第一次認識到壓根不存在什麼母語羞恥的，外語也能把你尬住。不僅配的爛，而且聲音還跟形象不符，這人這樣的水平，居然不僅入行多年，最近還拿了這麼多主役角色。日本是真的沒人了，十年前日...
VS Code 是否正在蠶食 JetBrains 系的市場？
Soptq 我發現很多回答喜歡對比 JB 和 VSCode 的功能。但要是要來對比功能的話，我們是不是應該控制其他變數。例如，假設 JB 下面的 IDE 免費了，那麼你會選擇 VSCode 還是 JB。反正我選 JB，我目前是白嫖的教育許可證。以前也聽說過 VSCode 的好處，我也有 Sublim...