HIT Webinar 特邀报告 | STU-Net: 大规模有监督预训练赋能的可规模化与可迁移的医学图像分割模型

STU-Net: 大规模有监督预训练赋能的可规模化与可迁移的医学图像分割模型

北京时间2023年10月6日晚8点

#腾讯会议：584-849-331

大规模预训练极大地推动了以深度学习为代表的人工智能领域的变革，但是，当前医学图像分割的前沿模型规模仍相对较小，通常只有数千万的参数且没有经过预训练。因此，我们提出了一种可扩展且具有良好迁移能力的 U-Net 模型 STU-Net，其参数规模范围从1400万到14亿。首先我们在大规模数据集 TotalSegmentator 上预训练不同大小的 STU-Net，发现更大的模型具有更强的性能，这意味着在医学图像分割领域，大规模模型有着巨大的潜力;其次我们评测了不同大小的模型在14个下游数据集上直接推理的泛化性能，结果表明较大的模型具有较好的泛化性能此外，我们在3个下游数据集不同场景评测了不同大小模型的迁移能力，包括不同的图像模态和分割任务，结果表明该预训练模型具有较好的跨模态和跨任务的迁移能力。代码和预训练模型已开源。END