阅读论文“Multi-bin Trainable Linear Unit for Fast Image Restoration Networks”

   19年ICCV的一篇论文,使用具有更强非线性能力的函数去做图像恢复。论文认为实现快速图像恢复的难点主要有两个:获得足够的感受野;获得足够的非线性。该论文主要关注的是如何增强网络的非线性,新的激活函数定义如下所示:

   如上所示,这里论文解释其是PRelu的加强版,对不同区间使用不同的激活函数,各个部分的a和b都是学习得到的。而划分的区间数可以自己设定,论文后面设置了实验分析了划分数的影响。
   网络方面没什么好说的,这里使用了一个trick,将输入的图像进行shuffle pixel,从而将空间维度转换到通道维度,扩大了相对感受野。网络如下所示:

0%