海滨的Blog

Good Luck To You!

Network Slimming-神经网络剪枝的精细控制实现

本文介绍如何复现网络剪枝中的一篇经典的文章Learning Efficient Convolutional Networks Through.
该文章提出了一种channel-level的裁剪方案,可以通过稀疏化尺度因子(BN层的scaling factor)来裁掉“不重要”的channel。即通过BN层的scale factor权重的大小来反应其对应的channel的重要性,然后按照scale factor绝对值的大小排列后百分比设定一个阈值(比如剪掉30%,那么就从小到大排列,取排在30%位置的数作为阈值),剪掉不那么重要的输出通道所对应的权重,从而实现结构化剪枝。

<< 1 >>

Powered By Z-BlogPHP 1.7.1

Copyright hbblog.cn Rights Reserved.