目录

Title:KiU-Net: Overcomplete Convolutional Architectures for Biomedical Image and Volumetric Segmentation

摘要-Abstract

Introduction

方法

Overcomplete Networks-过完备网络

KIU-Net整体架构

CRFB-交叉残差特征块

总结

Title:KiU-Net: Overcomplete Convolutional Architectures for Biomedical Image and Volumetric Segmentation

摘要-Abstract

大多数医学图像分割方法都使用U-Net及其变体，但是这些变体网络在分割检测较小的结构方面表现不佳，并且无法精确分割边界区域（目前网络遇到的问题）。

其原因在于随着网络结构的深入编码器中的感受野的感受野大小增加，对高级特征的额外关注导致U-Net相关变体对学习的低级特征的信息变少。（原因）

本文提出的方法：使用一个过完备的卷积架构，我们将输入图像投影到更高的维度，这样就可以限制感受野在网络深层的不断增加。KIU-Net由两部分组成：1）Kite-Net（用于捕捉输入的精细细节和精确边缘，也就是低级特征）2）U-Net结构（捕获高级别特征）

Introduction

UNet以及其变体存在的问题是缺乏对小结构分割提取特征的关注，随着网络层数的一系列加深，更多的高级语义特征被提取出来，尽管跳跃连接有助于将局部特征（空间特征）传输到解码器，但其仍然无法分割边界模糊的小区域。

Kite-Net将输入转换为更高的维度，它不遵循编码器解码器结构。Kite-Net在编码器中使用上采样，而在解码器中使用最大池化下采样（这与U-Net等编码器解码器网络刚好相反，这种结构确保了网络深层卷积核的感受野不会像UNet那样增加，有助于Kite-Net提取边界的精细细节和深层次小结构）。

为了有效的利用UNet的高性能，提出了多分支网络，其具有两个分支。分支1为Kite-Net，分支2为UNet，并且为此提出了新的交叉残差融合结合两个分支的特征。

方法

Overcomplete Networks-过完备网络

在Kite-Net网络中，编码器将输入图像投影到空间上更高维度上去。这是通过在编码器中加入双线性上采样层来实现的，这种形式的编码器限制了感受野像U-Net中那样不断增加，本文仔细选择了滤波器的内核大小和上采样系数，以便深层学习提取精细细节特征以有效分割小的结构，在解码器中每个conv块都有一个卷积层，然后是一个最大池化层。

详细分析：设l为输入图像，F1和F2为从第一个卷积块和第二个卷积块中提取到的特征图，设其感受野为K*K。在非过完备网络中，感受野的变化取决于2个变量也就是池化系数和池化核的步长，而在本网络中，二者均设置为2，因此输入图像的卷积块2的感受野为2*k*2*k。卷积块3处理后的感受野为4*k*4*k.，感受野的增加可以概括为：

而相比之下所提出的过完备网络在卷积块中有一个系数为2的上采样层，其取代了最大池化层，上采样层实际上与最大池化层正相反，因此卷积块2在输入图像的感受野变为1/2*k*1/2*k,在卷积块3的感受野是1/4*k*1/4*k,在过完备网络中的第i层的感受野可以定义为：

KIU-Net整体架构

KIU-Net网络的结构如下图所示：

在Kite-Net 3D分支中编码器中每个卷积块都有Conv 3D层，然后是一个系数的上采样层和Relu激活函数，而在解码器中每个卷积块都有一个Conv 3D，然后是一个最大池化以及一个Relu激活函数。

而在U-Net 3D分支中则和以往相同，在编码器中下采样，在解码器中上采样。并且在网络结构中每一层都有一个CRFB块，最终将2个分支的输出相加并送入1*1*1卷积3D层而获得最终的预测结果。

CRFB-交叉残差特征块

这一模块的结构如下图：

为了进一步利用两个网络的容量，本文通过CRFB模块在多个尺度上组合两个网络的特征，即在编码器和解码器的每个级别使用CRFB模块来组合各自特征。

UNet 3D和Kite-Net 3D学习到的特征彼此不同，这个特征可以进一步改进单个网络的训练，其尝试在两个网络中学习互补的特征。

将U-Net 3D的第i个特征图表示为,将表示为来自Kite-Net 3D的第i个特征图。首先使用卷积块提取交叉残差特征和. 是来自U-Net 3D的特征经过Conv3D和上采样处理以后的结果，然后将交叉残差特征添加到原始特征当中从而获得互补的特征和。

总结

本文提出的网络是由过完备和欠完备自动编码器组成的两个分支网络，用于更精确的学习小结构和更精确的表面和边缘细节，使用了一种新的交叉残差特征融合模块，有效的融合了两个分支的特征