“s-LWSR: Super Lightweight Super-Resolution Network”
最近看到的一篇做轻量级网络超分辨的论文，其采取的方式主要是三个，分别是对称式结构，多部分信息池化和去掉一些relu层。整体结构如下所示:
Imformation pool就是把各个部分的特征concat在一起再卷积，和对称的部分相加。block使用resblock，基本单元是mobilenet的单元，别的部分没啥好说的，relu是随机去的。
“Lightweight Image Super-Resolution with Information Multi-distillation Network”
今年MM的一篇论文，也是做的轻量级超分辨，在IDN上改改，加上一些trick。包含三个模块，首先是IMDB如下所示：
将不同部分的channel进行分离和组合，基于的还是蒸馏的原理，其中CCA的结构是一个attention结构，如下所示:
这里最主要的还是这个contrast操作，就是在原来全局平均池化的基础上加上一个方差，从而增加对结构感知的能力。具体公式如下:
最后是自适应裁剪策略，可以对任意图片大小的图像做超分辨。对输入的LR图像做拆分，变成四份，然后输出再组合在一起。这里具体见了论文吧，感觉有点意思。