阅读论文《Enhancing the Spatial Resolution of Stereo Images using a Parallax Prior》

   这是2018年CVPR一篇做双目SR的论文,这里做简要了解。论文认为双目的增强可以提供subpixel的信息,从而实现pixel层面上的映射。因此这里提供双路网络学习视差先验,第一个网络学习在亮度层面上增强图像的分辨率,第二个网络重建彩色图像从高分辨的光照图以及输入的色度图。
   视差的存在会导致子像素的位移,可以用来做超分辨重建的先验,原理如下:

   网络上,论文的网络分成亮度网络和色度网络,结构图如下所示:

   对于光照网络,这里检测相似的patch区域,源图像上最接近的patch可以直接被用来重建输出,并使得可以在子像素层面上做重采样。这里不需要使用视差图。该部分网络使用残差学习的方式,输入图是左右图像不断pack在一起,作为输入,例如这里使用64张右图像和1张左图像作为输入,GT是左图的光照图。输入之前已经做了bicubic上采样。
   对于色彩网络,目前主要的超分辨网络只增强L通道,因为直接对色彩通道做上采样会出现边缘的颜色混合现象,该部分网络的输入是上面光照网络的输入,以及色彩通道的上采样,我个人感觉这一步是为了匹配上上采样的色度图和光照图。该部分输出的残差和输入的光照图concat在一起,然后转成最后一步的输出,从而实现在输出中获得高频成分。
其他部分见论文。

0%