前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >医学图像分割:UNet++

医学图像分割:UNet++

作者头像
AI算法与图像处理
发布于 2020-11-23 02:17:48
发布于 2020-11-23 02:17:48
1.5K00
代码可运行
举报
运行总次数:0
代码可运行

导读

使用一系列的网格状的密集跳跃路径来提升分割的准确性。

在这篇文章中,我们将探索UNet++: A Nested U-Net Architecture for Medical Image Segmentation这篇文章,作者是亚利桑那州立大学的Zhou等人。本文是U-Net的延续,我们将把UNet++与Ronneberger等人的U-Net原始文章进行比较。

UNet++的目标是通过在编码器和解码器之间加入Dense block和卷积层来提高分割精度。

分割的准确性对于医学图像至关重要,因为边缘分割错误会导致不可靠的结果,从而被拒绝用于临床中。

为医学成像设计的算法必须在数据样本较少的情况下实现高性能和准确性。获取这些样本图像来训练模型可能是一个消耗资源的过程,因为需要由专业人员审查的高质量、未压缩和精确注释的图像。

UNet++里有什么新东西?

下面是UNet++和U-Net架构的示意图。

UNet++ 在原始的U-Net上加了3个东西:

  1. 重新设计的跳跃路径(显示为绿色)
  2. 密集跳跃连接(显示为蓝色)
  3. 深度监督(显示为红色)

重新设计的跳跃路径

在UNet++中,增加了重新设计的跳跃路径(绿色显示),以弥补编码器和解码器子路径之间的语义差别。

这些卷积层的目的是减少编码器和解码器子网络的特征映射之间的语义差距。因此,对于优化器来说,这可能是一个更直接的优化问题。

U-Net采用跳跃连接,直接连接编码器和解码器之间的特征映射,导致把语义上不相似的特征映射相融合。

然而,在UNet++中,相同dense block的前一个卷积层的输出与较低层dense block对应的上采样输出进行融合。这使得已编码特征的语义级别更接近于等待在解码器中的特征映射的语义级别,因此,当接收到语义上相似的特征映射时,优化更容易。

跳跃路径上的所有卷积层使用大小为3×3的核。

密集跳跃连接

在UNet++中,密集跳跃连接(用蓝色显示)实现了编码器和解码器之间的跳跃路径。这些Dense blocks是受到DenseNet的启发,目的是提高分割精度和改善梯度流。

密集跳跃连接确保所有先验特征图都被累积,并通过每个跳跃路径上的dense卷积块而到达当前节点。这将在多个语义级别生成完整分辨率的特征映射。

深度监督

UNet++中增加了深度监督(红色显示),通过修剪模型来调整模型的复杂性,在速度(推理时间)和性能之间实现平衡。

对于accurate模式,所有分割分支的输出进行平均。

对于fast模式,最终的分割图从分割分支之一选择。

Zhou等人进行了实验,以确定在不同剪枝水平下的最佳分割性能。使用的度量是IoU和推理时间。

他们试验了四种分割任务:a)细胞核,b)结肠息肉,c)肝脏,d)肺结节。结果如下:

L3与L4相比,平均减少了32.2%的推理时间,同时IoU略微降低了。

更激进的修剪方法,如L1和L2,可以进一步减少推理时间,但以显著的分割性能为代价。

在使用UNet++时,我们可以调整用例的层数。

在UNet++上的实验

我使用Drishti-GS数据集,这与Ronneberger等人在他们的论文中使用的不同。该数据集包含101幅视网膜图像,以及用于检测青光眼的光学disc和光学cup的mask标注。青光眼是世界上致盲的主要原因之一。50张图片用于训练,51张用于验证。

度量

我们需要一组指标来比较不同的模型,这里我们有二元交叉熵,Dice 系数和IoU。

二元交叉熵

二分类的常用度量和损失函数,用于度量误分类的概率。

我们将使用PyTorch的binary_cross_entropy_with_logits函数,与Dice系数一起作为损失函数对模型进行训练。

Dice 系数

对预测值和实际值之间重叠的通用的度量。计算方法为 2 × 预测值与ground truth的重叠面积除以预测值与ground truth之和的总面积。

这个度量指标的范围在0到1之间,其中1表示完全重叠。

我使用这个度量和二元交叉熵作为训练模型的损失函数。

IoU

一个简单(但有效!)的度量来计算预测的mask与ground truth mask的准确性。计算预测值与ground truth的重叠面积,并除以预测值与ground truth的并集面积。

类似于Dice系数,这个度量指标的范围是从0到1,其中0表示没有重叠,而1表示预测与地面真实之间完全重叠。

训练和结果

优化这个模型,训练50多个epoch,使用Adam优化器,学习率1e-4,学习率衰减率为没10个epochs乘以0.1, 损失函数是二元交叉熵和Dice 系数的组合。

模型在27分钟内完成了36.6M可训练参数的训练,每个epoch大约需要32秒。

表现最好的epoch是第45个epoch(在50个epochs中)。

  • 二元交叉熵:0.2650
  • Dice系数:0.8104
  • IoU:0.8580

几个U-Net模型之间的指标进行比较,如下所示。

测试首先通过模型处理一些没见过的样本,来预测光学disc(红色)和光学cup(黄色)。这里是UNet++和U-Net的测试结果对比。

![](Biomedical Image Segmentation UNet++.assets/1_jhyAYAhCHizWt2qkGJmkEg.jpeg)

从指标表来看,UNet++在IoU上超越U-Net,但在Dice系数上表现较差。从定性测试的结果来看,UNet++成功地对第一张图像进行了正确的分割,而U-Net做得并不好。也由于UNet++的复杂性,训练时间是U-Net的两倍。必须根据它们的数据集评估每种方法。

总结

UNet++的目标是提高分割精度,通过一系列嵌套的,密集的跳跃路径来实现。重新设计的跳跃路径使语义相似的特征映射更容易优化。密集的跳跃连接提高了分割精度,改善了梯度流。深度监督允许模型复杂性调优,以平衡速度和性能优化。

—END—

英文原文:https://towardsdatascience.com/biomedical-image-segmentation-unet-991d075a3a4b

代码语言:javascript
代码运行次数:0
运行
复制
本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2020-11-16,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 AI算法与图像处理 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
如何量化医学图像分割中的置信度?
来源:AI公园 深度学习爱好者本文约2700字,建议阅读6分钟本文介绍了利用变分推断进行分割置信度的预测。 在过去的十年里,深度学习在一系列的应用中取得了巨大的成功。然而,为了验证和可解释性,我们不仅需要模型做出的预测,还需要知道它在做出预测时的置信度。这对于让医学影像学的临床医生接受它是非常重要的。在这篇博客中,我们展示了我们在韦洛尔理工学院进行的研究。我们使用了一个基于变分推理技术的编码解码架构来分割脑肿瘤图像。我们比较了U-Net、V-Net和FCN等不同的主干架构作为编码器的条件分布采样数据。我们
数据派THU
2023/04/08
9760
如何量化医学图像分割中的置信度?
提升图像分割精度:学习UNet++算法
https://cloud.tencent.com/developer/article/2465647?shareByChannel=link
忆愿
2024/11/25
9191
提升图像分割精度:学习UNet++算法
UNet家族最强系列 | UNet、UNet++、TransUNet与SWin-UNet究竟哪个更强!!!
本文首发于 【集智书童】,白名单账号转载请自觉植入本公众号名片并注明来源,非白名单账号请先申请权限,违者必究。
集智书童公众号
2023/09/04
24.1K0
UNet家族最强系列 | UNet、UNet++、TransUNet与SWin-UNet究竟哪个更强!!!
STA-Unet 医学影像分割语义冗余的再思考
利用深度学习技术的进步,计算机视觉技术已成为医学图像分析的重要组成部分。在这些技术中,图像分割具有重大意义。具体而言,精确可靠的医学图像分割是计算机辅助诊断和影像引导手术操作的基础组成部分[5, 10]。
未来先知
2024/10/31
3240
STA-Unet 医学影像分割语义冗余的再思考
Unet网络实现叶子病虫害图像分割
智能化农业作为人工智能应用的重要领域,对较高的图像处理能力要求较高,其中图像分割作为图像处理方法在其中起着重要作用。图像分割是图像分析的关键步骤, 在复杂的自然背景下进行图像分割, 难度较大。
AI科技大本营
2021/09/03
2K0
医学图像分割 | U-Net网络及他的变体
今天来简单归纳一下,医学图像分割的内容,还有很多代表性的工作在之后的文章中不断更新,由于同一个网络结构可能在不同的数据集上表现出不一样的性能,在具体的任务场景中还是要结合数据集来选择合适的网络。
AI算法修炼营
2020/05/18
4.4K0
医学图像分割 | U-Net网络及他的变体
Tensorflow入门教程(四十二)——ANU-Net
今天将分享Unet的改进模型ANU-Net,改进模型来自2020年的论文《Attention-based nested U-Net to exploit fullresolution features for medical image segmentation》,简单明了给大家分析理解该模型思想。
医学处理分析专家
2020/08/04
1.2K0
超越传统 UNet ,GCtx-UNet 结合全局与局部特征,实现高效图像分割 !
自动化医学图像分割在提供有价值信息以预防、诊断、进展监测和预测各种疾病以及定量病理学评估中至关重要。目前,包括编码器、解码器和跳跃连接在内的U形深度神经网络在医学图像分割中应用最为广泛。尽管U形网络在许多医学图像分割任务中取得了最先进的表现,但仍然存在局限性。一个主要的局限性是编码器在有效提取和整合长距离和局部特征方面的能力。
AIGC 先锋科技
2024/07/08
1.1K0
超越传统 UNet ,GCtx-UNet  结合全局与局部特征,实现高效图像分割 !
基于深度学习的图像语义分割算法综述
本文翻译自An overview of semantic image segmentation,原作者保留版权。
机器学习算法工程师
2018/07/26
2K0
基于深度学习的图像语义分割算法综述
通过特征蒸馏与迭代学习改进 UNet 的图像分割能力!
医学图像分割是计算机辅助诊断和图像引导系统中的关键应用。近年来,深度学习已成为这一领域的主要方法,这主要归功于UNet[18]的里程碑式贡献。UNet通过利用编码器将语义信息投射到低级特征,以及解码器逐步将语义特征上采样到分割 Mask ,定义了一个通用的分割网络架构。其许多后续工作在卷积神经网络(CNN)的背景下扩展了这一想法。最近,许多研究引入了视觉 Transformer ,通过使用自注意力机制来解决CNN的限制。尽管ViT具有较大的感受野,并能捕获不同图像块之间的长距离依赖,但由于缺乏局部性,它难以保留细粒度的局部上下文。为了缓解这个问题,一些方法[8, 17]在UNet设计中引入了CNN和ViT之间的桥梁(即混合模型)。请注意,这些方法也带来了更多的计算复杂性和参数数量。过参数化是深度学习中的常见问题,通常导致特征冗余和特征表示不佳[6, 12, 13]。然而,这个问题在当前的医学分割模型中尚未正式研究或考虑。
未来先知
2024/08/08
7250
通过特征蒸馏与迭代学习改进 UNet 的图像分割能力!
深度学习图像分割:网络结构设计一览
来源:极市平台本文共5400字,建议阅读15分钟在利用CNNs进行图像语义分割时,有一些针对网络结构的创新点,主要包括了新神经架构和新组件或层的设计。文章的后半部分则对医学图像分割领域中网络结构设计的应用进行了梳理。 本文总结了利用CNNs进行图像语义分割时,针对网络结构的创新,这些创新点主要包括新神经架构的设计(不同深度、宽度、连接和拓扑结构)和新组件或层的设计。前者是利用已有的组件组装复杂的大型网络,后者是更偏向于设计底层组件。首先介绍一些经典的语义分割网络及其创新点,然后介绍网络结构设计在医学图像分割
数据派THU
2022/03/04
6510
UNet 和 UNet++:医学影像经典分割网络对比
点击上方↑↑↑“OpenCV学堂”关注我来源:公众号 AI公园 授权 导读 在不同的任务上对比了UNet和UNet++以及使用不同的预训练编码器的效果。 介绍 语义分割是计算机视觉的一个问题,我们的任务是使用图像作为输入,为图像中的每个像素分配一个类。在语义分割的情况下,我们不关心是否有同一个类的多个实例(对象),我们只是用它们的类别来标记它们。有多种关于不同计算机视觉问题的介绍课程,但用一张图片可以总结不同的计算机视觉问题: 语义分割在生物医学图像分析中有着广泛的应用:x射线、MRI扫描、数字病理、
OpenCV学堂
2022/04/25
1.8K0
UNet 和 UNet++:医学影像经典分割网络对比
改进UNet | 透过UCTransNet分析ResNet+UNet是不是真的有效?
最近的很多医疗语义分割方法都采用了带有编解码器结构的U-Net框架。但是U-Net采用简单的跳跃连接方案对于全局多尺度问题进行建模仍然具有挑战性:
集智书童公众号
2021/10/12
3.2K0
改进UNet | 透过UCTransNet分析ResNet+UNet是不是真的有效?
医学图像分割:U-Net系列网络简介
在图像分割任务特别是医学图像分割中,U-Net[1]无疑是最成功的方法之一,该方法在2015年MICCAI会议上提出,目前已达到四千多次引用。其采用的编码器(下采样)-解码器(上采样)结构和跳跃连接是一种非常经典的设计方法。目前已有许多新的卷积神经网络设计方式,但很多仍延续了U-Net的核心思想,加入了新的模块或者融入其他设计理念。本文对U-Net及其几种改进版做一个介绍。
马上科普尚尚
2020/05/11
8K0
医学图像分割:U-Net系列网络简介
从入门到精通UNet: 让你快速掌握图像分割算法
https://cloud.tencent.com/developer/article/2465647?shareByChannel=link
忆愿
2024/11/24
1.3K0
从入门到精通UNet: 让你快速掌握图像分割算法
深度学习系列(四)分割网络模型(FCN、Unet、Unet++、SegNet、RefineNet)
深度学习系列(四)分割网络模型(FCN、Unet、Unet++、SegNet、RefineNet)
Minerva
2020/05/25
10.3K0
图像分割2020总结:结构,损失函数,数据集和框架
本文总结了2020图像分割的相关内容,包括架构,损失函数,数据集,框架的整理,内容非常详细完整,适合入门者阅读上手。
深度学习技术前沿公众号博主
2020/12/01
9370
图像分割2020总结:结构,损失函数,数据集和框架
注意力驱动与卷积并行:KAN-Mamba FusionNet 优化医学图像分割技术 !
医学图像分割有助于准确地定位解剖结构特征,从而及时发现异常并实现患者治疗。最近对开发高级深度学习和计算机视觉方法的研究为解决疾病器官定位的挑战提供了一个途径。可靠的图像分割技术对于帮助医学专家做出明智的决策并提高诊断结果至关重要。这可能潜在地增加患者的寿命。
未来先知
2024/12/19
5620
注意力驱动与卷积并行:KAN-Mamba FusionNet 优化医学图像分割技术 !
2020入坑图像分割,我该从哪儿入手?
顾名思义,图像分割就是指将图像分割成多个部分。在这个过程中,图像的每个像素点都和目标的种类相关联。图像分割方法主要可分为两种类型:语义分割和实例分割。语义分割会使用相同的类标签标注同一类目标(下图左),而在实例分割中,相似的目标也会使用不同标签进行标注(下图右)。
机器之心
2020/06/02
6100
基于深度学习的自然图像和医学图像分割:损失函数设计(1)
作者:李慕清 https://zhuanlan.zhihu.com/p/106005484 本文已由原作者授权,不得擅自二次转载
Amusi
2020/02/24
2.7K0
推荐阅读
相关推荐
如何量化医学图像分割中的置信度?
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
本文部分代码块支持一键运行,欢迎体验
本文部分代码块支持一键运行,欢迎体验