模型架构

[ChaohuanDeng123]

你好，请问这篇论文中所提出的模型架构

与Vmunet中所提出的模型架构不同点是什么？

[shayan1999]

thats a great question I was reading this artivle by myself too and I had the exact same question if you figure it out please tell me. :))

[onion-LHJ]

事实上有两个不同点：
1.在bottle neck 部分（就是编码器最后一层和解码器的第一层),vmunet用的是2个VSS block×2，而SwinUmamba用的是两个VSS block×1，只不过SwinUmamba是把解码器那部分bottle neck编在编码器罢了，很巧妙的trick。
2.SwinUmamba在解码器部分引入了深度监督（也叫中继监督）。一般模型计算损失是用整个模型的最后一层的预测和GT作损失，深度监督就是在模型的中间层也和GT作损失。SwinUmamba的具体做法就是，在解码器的四个层（包括最后一层，就是最终预测）都与GT作损失（GT同时下采样为对应层的形状），然后再把四个层的损失作加权求和。