Mask矩陣在深度學習中有哪些應用場景?

時間 2021-05-05 17:34:27

1樓:

答乙個挖墳的:

mask 是可以用來執行條件控制的,類似於數位電路裡的 mux,從兩個結果裡選乙個。

對於 RNN 模型,乙個 batch 內不同樣本長度可能不同,因此經常需要 padding。

假如想得到 RNN 在每條樣本的最後乙個有效時間步的狀態怎麼做?

1、一種辦法是 pre-padding,就是把 padding 符號放在序列最前面,這樣最後乙個時間步 T 就都是有效時間步了,直接把這一步的 RNN 狀態取出來就行。

2、但是 pre-padding 有可能影響 RNN 的最終狀態(因為 RNN 要先處理一些 padding symbol,而不是從第乙個有效 token 開始計算的),如果要做 post-padding 怎麼辦?

在 Theano 的時代,乙個常見的辦法是:state_t = new_state * mask + state_ * (1-mask),其中 state_ 是前一步的 RNN 狀態,new_state 是 state_ 經過一步 RNN 迴圈後得到的狀態。假設 mask 當且僅當有效時間步內為 1,就會使得在有效時間步內一直更新 RNN 狀態,在 padding 步驟時一直複製最後乙個有效時間步的狀態。

於是,所有樣本同時取最後乙個時間步 T 的狀態即可滿足需求。

當然,在現在這個年代,TF 這樣的靜態圖框架用 tf.cond,或者 PyTorch 這樣的動態圖框架用 if,直接就能條件計算了……

深度學習中的mask到底是什麼意思?

Frank 基本定義 用選定的影象 圖形或物體,對待處理的影象 全部或區域性 進行遮擋,來控制影象處理的區域或處理過程。用於覆蓋的特定影象或物體稱為掩模或模板。光學影象處理中,掩模可以為膠片 濾光片等。數字影象處理中,掩模為二維矩陣陣列,有時也用多值影象。數字影象處理中,影象掩模主要用於 提取感興趣...

矩陣論在影象處理中有些什麼應用

Bihan Wen 矩陣之類的是很好的工具,用來理解影象處理裡的一些技巧和原理。這裡簡單地舉幾個例子 1 影象處理裡經常用到Filtering,數學的本質是Convolution。考慮乙個1 dim的FIR情況,可以認為是一小段向量 假設為a 和另一段 假設為b 在移動中相乘然後相加,結果得到另乙個...

深度學習或強化學習在組合優化方面有哪些應用?

苦中作樂tttt 其實很多基本組合問題用trick加很好的heuristic,可以優化很好了。當然實際應用中的組合優化問題,可能結構或者限制更複雜,許多漂亮的trick用不了或者對數學要求太高了。退而求其次,如果想稍微通用或者懶一點,可以考慮上神經網路。整數優化求解器的樹搜尋模組,比較重要的是pri...