就CVPR2020的來看,目前人工智慧的研究熱點有哪些進展?未來的研究趨勢會有什麼變化?

時間 2021-05-06 08:14:13

1樓:

CVPR能看出人工智慧趨勢麼?恐怕有點難。

不能侷限於影象本身,必須引入知識和世界模型了

現在CⅤ像生物,還在底層區域性生化打拼,追求每個蛋白的工作機制,力求弄清大廈的各塊磚頭的樣子,但對整個建築的結構圖還不清楚。不過也開始有些把磚頭砌成短牆或灶台的苗頭了。

2樓:ICOZ

據我觀察,Parametrized optimization 會是乙個有意思的方向,推薦Brandon Amos 的CVPR 2020 workshop talk On differentiable optimization for control and vision.

簡單來說,就是優化問題裡嵌入乙個優化問題,後層的layer的input是這個嵌入的optimization問題的solution,嵌入的optimization problem又由外部的optimization來定義和限制,然後他們還可以一起訓練實現梯度傳播。

這種模型的好處在於我們可以更好的通過乙個sub optimization problem來表達我們的優化需求,植入到網路學習中。 這個嵌入的問題可以是個convex problem, 也可以是乙個non-convex problem,核心問題就是gradient怎麼流過這個embedded optimization problem。

列舉幾個應用場景和技術的例子。

1.乙個bi-level optimization task,像MAML。目的是學習乙個好初始化網路,讓他可以很快的被finetune從而適應新的task。

內部的optimization problem就是通過finetune layer來適應新的task,外部的優化問題是學習網路的初始化weight,早期解決梯度傳播的技術是二階導數,後來也有用implicit gradient來改進。

2. 乙個graph matching問題,假如我們沒有node correspondence的資訊,但是又想基於matching的結果來進一步學習(比如學習node feature),怎麼實現?我們首先要求解乙個matching的optimization problem,這樣就有了correspondence的資訊,然後再基於matching的結果做運算。

比如在我最近的一篇工作DeepEMD: Differentiable Earth Mover's Distance for Few-Shot Learning,用EMD作為distance metric來求解structured representations之間的相似度做分類,內部的優化問題就是求解optimal matching flow (乙個convex problem),外部的optimization problem是學習CNN裡的weight。為了讓梯度經過這個sub optimization problem傳播回前面的layer,就需要用到implicit function theorem。

也可以用組合優化的求導技術實現類似的目的,比如 Deep Graph Matching via Blackbox Differentiation of Combinatorial Solvers

3. Brandon的talk裡也給了乙個例子,假如我們做multi label的分類問題,有K正確的class。 sigmod 和softmax都不是特別適用,那怎麼辦?

用optimization& constraint 的形式表達我們想要的(如圖),從而用這麼乙個非closed-form的表達來計算loss,encourage K個class同時響應。

目前有幾個開源的工作我覺得很好,不用自己寫複雜的梯度傳播過程就可以實現上述的功能。

比如QPTH:A fast and differentiable QP solver for PyTorch,乙個differentiable的QP solver,原理是implicit function theorem。

Differentiation of Blackbox Combinatorial Solvers,乙個differentiable的組合優化solver,很適合用來做graph matching,也已經有工作這麼做了。

3樓:湃森

從大方向來看,受限於資料集,上游許多在刷榜的那群人好像刷不動,或者已經到達瓶頸了。今年不少研究都跑到下游去改造基礎的零部件了。然後將改造過的零件重新應用到ResNet; Faster-RCNN; Mask RCNN等經典的模型上從而驗證這些零件能夠在分類,檢測和例項分割等任務上獲得一致性的效能提公升,大多是將一些靜態的特徵提取過程引入某些機制轉換為動態的自適應。

4樓:JimmyHua

CV領域大概有以下幾點:

影象分類

目標檢測

影象分割

目標跟蹤

OCR文字識別

影象濾波與降噪

影象增強

風格遷移

三維重建

影象檢索

GAN感覺現在的AI更注重的是落地,結合實際去把這些演算法運用到生活工作中,落地是乙個重中之重,各個領域的理論發展很快,但是落地效率很低,所以個人感覺研究效率和落地會有很大的趨勢~

就目前的引援來看,祖雲達斯能否衝擊 19 20 賽季的歐冠冠軍?

C7K8T9 反正2020年歐洲盃和2022年是兩個坎 如果這三年沒能拿歐冠 C羅一批老傢伙就該考慮退役了 德里赫特這些年輕人就該考慮轉會了 麥香包 你要問能不能衝擊歐冠?當然能了,每支參加歐冠的球隊都有望衝擊歐冠,比如波爾圖就拿過一次歐冠。尤文是上賽季意甲冠軍,毫無疑問可以衝擊歐冠。但你如果問的是...

根據目前世界範圍的防疫狀況來看,2020全球電競盛會S10會如期舉行嗎?

魂斷九眼橋 個人看法,疫情當頭,境外的過來現場聚眾看比賽不太科學,估計難了這可咋辦呀?都已經劍指S10了的,跳過乙個強迫症難受呀,直接劍指S11?劍指S12?劍指。哎,就是可惜了洗澡,都退役了,以後和這劍指也沒都沒啥關係了 尼古拉 建乙個臨時隔離園區,隊伍在園區內可以正常訓練,提前乙個月進場比賽,這...

就目前公布的訊息來看,《特殊身份》是否值得期待?

龍飛 剛看完,我看電影遇到打戲一般都過濾,然後這部片就沒東西了。台詞沒有,劇情沒有,演技沒有,還不是某主角沒演技,而是全沒演技,連貫性沒有,看了半小時我都不知道講的啥。這是今年最大的爛片了,富春山居圖起碼我還知道大家都是為了畫,宮鎖沉香起碼還有內心戲。我倒是想巨透,可沒任何可以巨透的東西,導演好像東...