基于一种用于医学图像分割的方法
- 2023-10-11 11:42:00
- aiadmin 原创
- 1501
处分计划的一个苛重题目是,当一个模子正在差异于其练习的数据漫衍进取行测试时,职能降低。将源模子适合于测试时的方向数据漫衍是处分数据移位题目的一种有用的处分计划。以前的措施通过操纵熵最小化或正则化等时间将模子适合于方向漫衍来处分这个题目。
正在这些措施中,模子仍旧通过操纵完备测试数据漫衍的无监视亏损反向散播更新。不过正在实际天下的临床情况中,及时将模子适合于新的测试图像更无意义,而且需求避免正在推理历程中因为隐私题目和布置时缺乏策动资源的境况。TTA 正在碰到来自未知规模的图像时,希望抬高深度研习模子的鲁棒性。本文要先容的做事属于 Fully Test Time Adaptation,既正在推理时需求收集要做完备的反向散播。下外简陋列出几种常睹 settings,个中 Fully TTA 只需求 target data 和 test loss。
现有的 TTA 措施职能较差,来历正在于未标识的方向域图像供应的监视信号不够,或者受到源域中预练习计谋和收集布局的特定央浼的范围。这篇做事方向是将源域中的预练习与方向域中的适合离开,以告终高职能且更具大凡性的 TTA,而过错预练习计谋做出假设。
如下图所示,以婴儿脑部 MRI 肿瘤破裂为例,从 HASTE 跨域到 TrueFISP,UPL-TTA 的后果要比不做任何适合的结果好良众。
UPL-TTA 最初引入了 Test Time Growing(TTG),也便是说,正在方向规模中众次复制源模子的预测头部。并为它们的输入图像和特性映照增添一系列随机扰动(比如,Dropout,空间变换),以获取众个差异的破裂预测。然后,通过这些预测的集成来获取方向规模图像的伪标签。为了抵制潜正在不精确的伪标签的影响,引入了集成措施和 MC dropout 不确定性臆度来获取牢靠性 Map。牢靠像素的伪标签用于监视每个预测头部的输出,而不牢靠像素的预测则通过均匀预测图上的熵最小化举办榜样化。
第一步咱们需求优化一个源域的预练习模子,即 Fig. 2 的 A 部门, 和 分歧流露编码器妥协码器的初始权重:
看待 TTG 的历程,最初看待一张图像 最初需求一个空间变换 ,囊括随即翻转,回旋 π/2,π 和 3π/2。然落后程 Dropout(特性级其余扰动)后正在输入到 decoder中,再举办空间变换逆历程,取得概率图。
上面概述里咱们提到过,通过正在方向规模中众次复制源模子的预测头部,并为它们的输入图像和特性映照增添一系列随机扰动(比如,Dropout,空间变换),以获取众个差异的破裂预测。最终,对 K 个头举办集成:
这一步咱们体贴奈何获取一个牢靠的伪标签。Fig. 2 中的 Reliable map 简陋理会为一个 Mask,用于优化伪标签。设定一个 的阈值,咱们通过对概率图的值巨细确定 的每个像素的值,只保存伪标签中较高可托度的像素:
到这里咱们会取得三个方向,一个是 K 个头输出的预测图,第二个是伪标签,尚有效于优化伪标签的 Mask:
熵最小化是 TTA 中很常用的办法,不过正在 UPL-TTA 中,咱们有 K 个集成。假设一种境况,第 K-1 个头的的预测概率是 0,第 K 个头的预测概率是 1,这时两个头的熵值都是最小的,不过一朝均匀下来之后,0.5 对应的熵便是大的。于是咱们需求同时熵最小化 K 个头:
下图是自练习中差异练习设施的伪标签。Epoch 0 流露“仅源域”(自适合之前),n 流露方向域验证集上的最佳轮数。正在(c)-(g)中,只要牢靠的伪标签用颜色编码。
这篇 IPMI 2023 做事提出了一种完整测试岁月自适合的措施,该措施可能正在不显露源模子的练习计谋的境况下,将源模子适合到未标识的方向域。正在没有探访源域图像的境况下,提出的基于不确定性的伪标签诱导的 TTA 措施通过测试岁月拉长(TTG)为方向域中的同相同本天生众个预测输出。它天生高质料的伪标签和相应的牢靠性Map,为未标识的方向域供应有用的监视。具有不牢靠伪标签的像素通过对复制的头部的均匀预测举办熵最小化进一步榜样化,这也引入了隐式的类似性榜样化。正在胎儿脑破裂的双向跨模态 TTA 测验中,优于几种最进步的 TTA 措施。另日,告终该措施的 3d 版本并将其运用于其他破裂职业是很有趣味的目标。
的刷新遗传算法,算法中引入了优生算子、刷新的变异算子和新个别,避免结果部早熟,抬高了收敛速率和全体收敛才具。 合头词:
算法领会 /
算法 /
咨询 /
解析 /
职业,不过大大批咨询都没有预防到人类的卓殊性:能够通过身体神情举办辨认。正在这篇论文中,咱们提出了
联系人: | 王先生 |
---|---|
电话: | 15640228768 |
微信: | 1735252255 |
地址: | 沈阳市铁西区兴华南街58-6号 |
-
思陌产品
深度学习系统产品介绍 -
使用帮助
使用手册 -
关于我们
公司简介 -
资讯反馈
交流论坛 -
联系我们
Tel 15640228768 QQ/WX技术支持 1735252255