Swin-Unet：用于医学图像分割的类似 Unet 的纯 Transformer

在过去的几年中，卷积神经网络（CNN）在医学图像分析中取得了里程碑式的发展，特别是基于U型结构和跳过连接的深度神经网络被广泛应用于各种医学图像任务中。然而，尽管CNN取得了优异的性能，但是由于卷积操作的局部性，它无法很好地学习全局和长距离语义信息交互。在本文中，提出了Swin-Unet，它是一个类似于Unet的纯Transformer，用于医学图像分割。将标记化的图像块输入到基于Transformer的带有跳过连接的U型编码器-解码器架构中，以进行局部-全局语义特征学习。具体而言，使用带有移位窗口的分层Swin Transformer作为编码器来提取上下文特征。并且设计了一个基于对称Swin Transformer的带有块扩展层的解码器来执行上采样操作以恢复特征图的空间分辨率。在对输入和输出直接进行 4 倍下采样和上采样的情况下，在多器官和心脏分割任务上的实验表明，纯基于 Transformer 的 U 形编码器-解码器网络优于使用全卷积或 Transformer 和卷积组合的方法。

paper:https://arxiv.org/pdf/2105.05537v1
github:https://github.com/HuCaoFighting/Swin-Unet