如何理解結構化剪枝與非結構化剪枝

時間 2021-06-09 17:39:57

1樓:林大佬

結構化prune和非結構化Prune的差別就如同他們被稱作的那樣, 我們都知道他們是在做什麼, 但其實鮮有人真正告訴我們後果是什麼樣的? 對模型的影響是怎麼樣的?

事實上現在很多的prune演算法都是在做結構化, 它的好處也很明顯, 簡單來說有幾點:

它可以得到乙個新的結構;

它和現有的生態可以很好的整合和支援, 我們剪枝的目的是什麼? 是加快網路的速度, 而不是提高精度, 任何網路很難超越它父集的精度, NAS除外,資料集簡單的除外, 非結構化剪枝受限於現有生態的支援, 這部分做的不是很好;

方便部署.

說白了, 樓主所說的, 在結構化的基礎上, 在做非結構化, 我認為可以, 但不一定有必要.

非結構化剪枝更適用於什麼場景呢?

天然適用Sparsity的場合, 比如點雲;.

一些特有的庫可能對這方面支援的比較好, 比如facebook之前開源的SparseConvNet:

facebookresearch/SparseConvNet

事實上很久遠了, 兩年前.

如何準備結構化面試?

頭禿教資怪 頭禿教資怪 教資面試結構化7大類題目全都背?別傻了!經典套路爆讚!面試主要考察申請教師資格人員應具備的新教師基本素養 職業發展潛質教育教學實踐能力,主要包括 1.良好的職業道德 心理素質和思維品質。2.儀表儀態得體,有一定的表達 交流 溝通能力。3.能夠恰當地運用教學方法 手段,教學環節...

結構化面試怎麼準備

結構化面試最重要是思維的鍛鍊,這個是必經的。我當時備考,先把申論素材翻了一遍,然後看苗小君高階100題,考前一周練習,差不多就是這樣。我覺得素材積累 思維的提公升 開口練,乙個不能少。素材積累不說了,肚子裡沒貨瞎說一氣,真心不靠譜兒,別說是考官,就是自己聽了心理上也過不去。再者思維提公升太重要了,沒...

結構化面試難嗎?

公考小阿姨 結構化面試難度中等。不能說很難,也不能說不難。第一題一般是綜合分析題。你得對考試的話題有一定的了解,你才有話說,你沒準備,你到現場就什麼都說不出來。雖然有答題的思維模式在,但怎麼套也是有技巧的。所以很多考生容易第一題就被拍暈。後面有計畫組織題。這種題現在很多都是反套路的,只擷取其中的乙個...