SAM进展调研

总结:

目前使用SAM模型中,在医学图像领域,大多使用点和box当作prompt进行分割,目前较少看到使用文本描述作为SAM的prompt的。
但是在自然图像领域,txet作为prompt稍微多一些。

1 SAMM(分割一切医学模型):与SAM集成的3 D Slice- 使用点

SAMM(分割一切医学模型):将SAM分割一切模型和3 Slicer集成,可以帮助研究员开发和验证将大型语言模型迁移到医学图像分析领域的潜力,本文已验证了以0.6秒的延迟几乎实时分割医学图像的能力,代码刚刚开源!单位:JHU
Segment Anything Mode!(SAM)是一种新的图像分割工具,使用目前最大的分割数据集进行训练。该模型已经证明,它可以为图像分割创建高质量的掩模,具有良好的可泛化性。然而,该模型在医学图像上的性能需要进一步验证。为了帮助SAM在医学图像上的开发、评估和利用,我们引入了Segment Any medical Model(SAMM),这是SA在3 D Slicer.上的扩展,是一种广泛使用的开源图像处理和可视化软件,已在医学成像界广泛使用。这个3 D Slice的开源扩展及其演示发布在GitHub(这个https URL)上。SAMM实现了一个完整周期O.6秒的延迟,并且可以几乎实时地推断图像掩码。

<SAMM (Segment Any Medical Model):A 3D Slicer Integration to SAM)
代a码:GitHub-bingogome/samm:A3 D Slicer integration t…
demo:https://www.youtube.com/watch?v=vZK45noZVIA

2 医学图像上的SAM:三种Prompt模式的全面研究

自动-点-box
为了评估SM是否有潜力成为医学图像分割任务的基础模型,本文收集了超过12个医学图像数据集,涵盖了各种器官和模态,探讨了哪种提示可以在不同的模式下实现最佳的零样本性能。单位:四川大学华西医院,上海ILāb,北邮
Segment Anything Model(SAM)最近首次亮相,吸引了众多研究者探索其零样本泛化能力的潜力和局限性。作为分割任务的第一个可提示的基础模型,它是在具有前所未有数量的图像和注释的大型数据集上进行训练的。这种大规模的数据集及其易用性赋予了该模型很强的零样本泛化能力。尽管SM在多个数据集上表现出了竞争性的性能,但我们仍希望研究其在医学图像上的零样本泛化。正如我们所知,医学图像注释的获取通常需要专业从业者付出大量努力。因此,如果有一个基础模型可以简单地基于几点提示给出高质量的掩模预测,那么该模型无疑将成为医学图像分析的游戏规则改变者。为了评估SM是否有潜力成为医学图像分割任务的基础模型,我们收集了超过12个公共医学图像数据集,这些数据集涵盖了各种器官和模态。我们还探讨了哪种提示可以在不同的模式下实现最佳的零样本性能。此外,我们发现一种模式表明,b0x大小的扰动将显著改变预测精度。最后,大量实验表明,预测的掩码质量在不同的数据集之间变化很大。向S八M提供适当的提示,如边界框,将显著提高其性能。
SAM on Medical Images:A Comprehensive Study on Three Prompt Modes
image.png

3 数字病理学的分割一切模型(SAM):评估WSI的零样本分割- 点

本文评估了SM模型在WSI代表性分割任务中的零样本分割性能,包括1)肿瘤分割,2)非肿瘤组织分割,3)细胞核分割,其中发现在密集实例物体分割上性能不令人满意。单位:范德堡大学,NDIA
Segment Anything Mode!(SAM)作为图像分割的基础模型。可提示分割模型是由超过10亿个掩码在1100万张许可和尊重隐私的图像上训练的。该模型支特使用各种分割提示(例如,点、框、āsk)进行零样本图像分割。它使SAM对于医学图像分析具有吸引力,尤其是对于训练数据很少的数字病理学。在本研究中,我们评估了SM模型在WSI代表性分割任务中的零样本分割性能,包括(1)肿瘤分割,(2)非肿瘤组织分割,(3)细胞核分割。核心结果:结果表明,零样本SM模型对大型连接对象具有显著的分割性能。然而,即使在每个图像上有20个提示(点击/框),它也不能始终实现密集实例对象分割的令人满意的性能。我们还总结了数字病理学的局限性:(1)图像分辨率,(2)多尺度,(3)即时选择,以及(4)模型微调。未来,对来自下游病理分割任务的图像进行少样本微调可能有助于该模型在密集对象分割中获得更好的性能。
<Segment Anything Model (SAM)for Digital Pathology:Assess Zero-shot Segmentation on Whole Slide Imaging

4 SAM.MD:SAM分害割一切的零样本医学图象分害割能力- 点-box

本文研究评估了SM用于医学图像分割的零样本有效性,其使用少量点击和边界框提示,在新的医学图像分割任务中显示出高精度。通过使用SM,专家可以实现对大多数医学结构的快速半自动分割,这对交互式医学分割非常有价值。单位:德国癌症研究中心,海德堡大学医院
由于prompting的灵活性,基础模型已经接管了自然语言处理和图像生成领域。随着SAM的最近推出,这种prompt驱动的范式已经进入图像分割领域,具有迄今为止尚未探索的丰富功能。本文的目的是通过基于点或边界框的提示,评估SAM在腹部CT器官分割任务中的性能,初步评估SAM用于医学图像分割的现成零样本能力。我们表明,SM很好地泛化到CT数据,使其成为临床医生半自动分割工具发展的潜在催化剂。我们相信,这个基础模型虽然在我们的研究中没有达到最先进的分割性能,但可以作为一个非常有力的起点,使这些模型进一步适应医学领域的复杂性。
SAM.MD:Zero-shot medical image segmentation capabilities of the Segment Anything Model

5 当SAM遇见医学图像:分割一切(SAM)在多期肝肿瘤分割中的研究

注:论文PDF已上传至星球,可一键秒下载
本文研究了SAM在医学图像分析中的能力,特别是在提示、数据分辨率和phases方面的多期肝肿瘤分割(MPLiTS)实验结果表明,SM和预期医学图像分割性能,之间可能存在很大差距。
另外实验结果揭示了SM作为数据注释工具的优越能力,以及MPLiTS的改进空间。将从综合方面进行进一步调查,这可能会对多期肝肿瘤分割(MPLiTS)社区提供一定指导。
When SAM Meets Medical Images:An Investigation of Segment Anything Model (SAM)on Multi-phase Liver Tumor Segmentation》

6 分割一切模型(SAM)在医学图像分割任务中的准确性

单位:波士顿儿童医院,哈佛医学院
注:论文PDF已上传至星球,可一键秒下载
分割一切模型(SAM)被当作图像分割的基本模型!在本报告中,我们探时了(1)SAM在12个公共医学图像分割数据集上的准确性,涵盖了各种器官(大脑、乳房、胸部、肺、皮肤、肝脏、肠道、胰腺和前列腺)、图像模态(2DX射线、组织学、内镜、3DMRI和CT)以及健康状况(正常、病变)。(2)我们发现,在没有对医学图像进行重新训川练的情况下,SM的性能不如在医学图像上训练的U-Nt或其他深度学习模型准确。
Accuracy of Segment-Anything Model (SAM)in medical image segmentation tasks)

7 SAM分割一切模型在MRI上实现良好的脑肿中瘤分割精度,以支持放射治疗计划–点

SAM分割一切模型在经过训练后,可以在MRI切片上实现胶质瘤脑肿瘤的高零样本精度分割。研究表明,当集成到临床应用中时,SA可以加速和促进放射治疗RT计划。
背景:MRI中的肿瘤分割在脑肿瘤患者的放射治疗计划中至关重要。Segment anything(SA)是一种新的可提示的自动分割基础模型,在多个分割任务中显示出很高的准确性,但尚未在医学数据集上进行评估。方法:在369个MI数据集(BaTS2020)的16744个横向切片上,对神经胶质瘤脑肿瘤自动分割的点到掩模任务中的SA进行评估。每个切片最多可放置9个点提示。在增强T1w序列上分割肿瘤核心(增强肿瘤+坏死核心)。在SA预测的3个掩码中,评估了具有最高计算IoU(预言掩码)和具有最高模型预测IoU(建议掩码)的掩码的准确性。除了评估整个MI切片上的SA外,还评估了裁剪到肿瘤的图像上的SA(最大3D范围+2cm)。结果:在完整的MRI切片上使用oraclef掩模的平均最佳1oU(mbIoU)为0.762(IQR0.713-0.917)。在平均6.6点提示后获得最佳2D掩模(IQR5-9)。与低级别胶质瘤病例相比,高级别胶质瘤的分割准确度明显更好(mbIoU0.789vs.0.668)。使用裁剪到肿瘤的MRI切片的准确度较差(mb1oU0.759),使用建议的掩模的准确度要差得多(完整切片0.572)。对于所有实验,在肿瘤体素较少的外周切片上,准确率较低(mbIoU,<300:0.537vs.>=300:0.841)。将全轴MRI切片的最佳甲骨文分割叠加起来,肿瘤核心的平均3DDSC为0.872,通过结合轴、矢状面和冠状面掩模,这一数字提高到0.919。
结论:
Segment-Anything基础模型在经过照片训练后,可以在MRI切片上实现胶质瘤脑肿瘤的高零样本精度分割。研究结果表明,当适当地集成到临床应用中时,Segment Anything可以加速和促进RT治疗计划。
The Segment Anything foundation model achieves favorable brain tumor autosegmentation accuracy on MRI to support radiotherapy treatment planning)

8 MedSAM:分割医学图像中的一切-点-box

代码已开源!单位:UHN,多伦多大学,Vector AI
注:论文PDF已上传至星球,可一键秒下载
分割一切模型(SAM)已经彻底改变了自然图像分割,但其在医学图像上的性能有限。本文提出了MedSAM,这是将SM的成功扩展到医学图像的第一次尝试,目的是创建一个用于分割各种医学目标的通用工具。具体来说,我们首先策划了一个大规模的医学图像数据集,包括11种不同模式的20多万个Mask。然后,我们开发了一种简单的微调方法,将SAM应用于普通医学图像分割。对21个3D分割任务和9个2D分割任务的综合实验表明,MedSAM在3D和2D分割任务上的平均骰子相以系数(DSC)分别为22.5%和17.6%,优于默认SAM模型。
《Segment Anything in Medical Images,》

9, 用SAM进行输入增强:利用分割基础模型增强医学图像分割

本文提出一种新的增强医学图像分割的方法,其使用分割一切模型(S八M)来增加常用医学图像分割模型(如U-Nt)的图像输入,在两个数据集上的实验验证了该方法的有效性。单位:南京理工大学,圣母大学
分割一切模型(SAM)是最近开发的用于计算机视觉任务的通用分割的大型模型。SAM是使用超过10亿个masks的1100万张图像进行训练的,可以在自然场景图像中产生广泛对象的分割结果。SM可以被视为用于分割(将图像划分为语义上有意义的区域)的通用感知模型。因此,如何利用这样一个大的基础模型进行医学图像分割是一个新兴的研究目标。本文表明,尽管SM不能立即为医学图像提供高质量的分割,但其生成的掩码、特征和稳定性分数有助于建立和训练更好的医学图像分割模型。特别是,我们演示了如何使用SM来增加常用医学图像分割模型(例如U-Nt)的图像输入。在两个数据集上的实验表明了我们提出的方法的有效性。
Input Augmentation with SAM:Boosting Medical Image Segmentation with Segmentation Foundation Model

10 TEXT2SEG: REMOTE SENSING IMAGE SEMANTIC SEGMENTATION VIA TEXT-GUIDED VISUAL FOUNDATION

用文本转化成热力图当成点,与box一起用
image.png

10 第一篇综述!分割一切模型(SAM)的全面调研

25页综述,198篇参考文献!52个开源项!本文第一个全面回顾了分割一切模型(SM)的研究和应用进展,介绍了基础背景,总结了SAM在各种图像处理应用中的优势和局限性,单位:港科大(广州),上海交大,中南大学
人工智能(4I)正在向通用人工智发展,通用智指的是人工智系统能够执行广泛的任务并表现出与人类相似的智能水平。这与狭义或专门的AI形成对比,后者旨在高效地执行特定任务。因此,迫切需要设计一类通用模型,我们称之为基础模型,在可以适应各种下游任务的广泛数据上进行训练。最近提出的segment anything mode!(SAM)在打破分割边界方面取得了重大进展,极大地促进了计算机视觉基础模型的发展。为了充分理解SAM,我们进行了一项调查研究。作为第一个全面回顾基于SM基础模型将任何任务分割为视觉和超越的进展,这项工作通过讨论它的历史发展、最近的进展和对广泛的深远影响,重点关注它在各种任务和数据类型中的应用。我们首先介绍包括SAM在内的基础模型的背景和术语,以及与SM同时存在的对分割任何任务都具有重要意义的最先进方法。然后,我们分析和总结了SM在各种图像处理应用程序(包括软件场景、真实场景和复杂场景)中的优势和局限性。重要的是,得出了一些见解来指导未来的研究,以开发更多通用的基础模型并改进SM的体系结构。我们还总结了SAM在视觉及其他方面的大量其他惊人应用。
A Comprehensive Survey on Segment Anything Model for Vision and Beyond

猜你喜欢

转载自blog.csdn.net/Alexa_/article/details/132410314
SAM