备注:研究方向+地点+学校/公司+昵称,更快通过申请,长按加细分领域技术交流群,目前有细分领域:图像分割、图像目标检测、论文写作、车道检测、模型优化、目标跟踪、SLAM、点云处理(分割检测)、深度学习。
论文地址: http://arxiv.org/pdf/2111.04734v2.pdf
来源: 浙江大学
论文名称:MIXED TRANSFORMER U-NET FOR MEDICAL IMAGE SEGMENTATION
原文作者:Hongyi Wang
内容提要
虽然U-Net在医学图像分割任务中取得了巨大的成功,但它缺乏明确的长期依赖模型的能力。因此,由于视觉注意力具有通过自我注意(Self-Attention, SA)捕捉长期相关性的先天能力,近年来视觉注意力已经成为一种可选的分割结构。但是注意力通常需要大规模的预训练,计算复杂度很高。此外,SA只能在单个样本中建模自亲和关系,忽略了整个数据集的潜在相关性。为了解决这些问题,我们提出了一种名为混合注意力模块(MTM)的新型注意力模块,用于同时进行内部和内部的亲和学习。MTM首先通过精心设计的局部全局高斯加权自我注意(LGG-SA)有效地计算自亲和。然后,通过外部注意(External Attention, EA)挖掘数据样本之间的相互联系。为了实现医学图像的精确分割,利用MTM构建了一个U型混合注意力U-Net (MT-UNet)模型。我们在两个不同的公共数据集上测试了我们的方法,实验结果表明,该方法比其他先进的方法具有更好的性能。
主要框架及实验结果