如何理解 Swin Transformer 和 Vision Transformer不同任务上的差异？ 第1页
1
网友的相关建议:
基于个人经验说个，vit的方案在疏松的数据上不行，比如sketch、colormap。
以前只是基于猜想，前段时间做了实验测试。16x16和直接的projection对于大部分自然数据的确是足够的，但是有些数据就是不够。具体可以拿16x16的格子对着数据比较。如果格子间的内容数据几乎差不多，那么就很依赖来自位置的global推理了，对数据增强和数据量都有要求。我猜flower可能就有这样的情况。而imagenet-skhtch的sketch不够稀疏，去掉shade可能就不一样了（似乎又可以搞篇文章）。
另外数据任务对global和local任务要求的情况也有关，但是这个衡量起来就比较难说清楚了。
我自己用的解决方法是，conv downsampling取代projection，然后配合数据稠密化，效果就好了。
xiaohuzc 网友的相关建议:
在大规模数据集上训练，应该vit的优势可能会显现出来，毕竟swin只是一种local attention net，理论上建模效果会比vit这种global attention net要差一些。
1
相关话题
大牛Bengio 团队最新的研究和我自己之前的研究成果重复了，应该怎么办？为什么图形学的会议siggraph的论文代码很少会开源？好像视觉如CVPR、ICCV开源的更多一些。
如何评价Google提出的MLP-Mixer：只需要MLP就可以在ImageNet上达到SOTA？
2021 年了，TensorFlow 和 PyTorch 两个深度学习框架地位又有什么变化吗？
如何评价Kaiming He的Momentum Contrast for Unsupervised?
如何评价生成模型框架 ZhuSuan?
Domain Adaptation学术上有哪些方向，还有哪些可做的地方？
2020到2021年小样本学习取得重大进展了吗？
能否对卷积神经网络工作原理做一个直观的解释？
GAN的生成器是怎么产生图片的？
前一个讨论
在长城汽车工作是种怎样的体验？
下一个讨论
结合深度学习的图像修复怎么实现？
相关的话题
能否搜索某视频的其中一帧画面？或者通过一张图片搜索此图来自哪个视频？为什么计算注意力机制的时候不加偏置项？
深度学习attention机制中的Q,K,V分别是从哪来的？
如何评价CUHK以及Yuanjun Xiong提出的Trajectory Convolution？
为什么 MobileNet、ShuffleNet 在理论上速度很快，工程上并没有特别大的提升？
如何评价微软亚洲研究院提出的LightRNN？
神经网络为什么可以（理论上）拟合任何函数？
如何评价VOLO: Vision Outlooker for Visual Recognition？
有没有什么可以节省大量时间的 Deep Learning 效率神器？
计算机视觉有多少分支？
反馈控制理论在优化、机器学习等领域有哪些应用？
现大二，准备做大学生创新创业项目计划 ，目前定的方向是深度学习+畜牧业／养殖业，有什么建议给我们吗？
2019年NeurIPS有哪些糟糕的论文？
如何理解深度学习中的deconvolution networks？
如何评价陈天奇团队新开源的TVM？
目前，人工智能语音在说中文时的语气感觉上还比较机械，怎样使人工智能语音的语气更自然一些？
如何通俗易懂地讲解 Photoshop 中的「通道」概念？
CVPR2022 有什么值得关注的论文 ?
深度学习领域，你心目中 idea 最惊艳的论文是哪篇？
batchsize=1时可以用BN吗?
为什么说大模型训练很难？
attention跟一维卷积的区别是啥？
ICLR 2022有哪些值得关注的投稿？
在计算资源有限的情况下，有什么深度学习的选题可以推荐/避免？
如何系统学习机器学习？
wasserstein 距离的问题?
大二就中 CVPR/ICCV/ECCV/NIPS 是一种怎样的体验？
Yann LeCun、Geoffrey Hinton或Yoshua Bengio能得图灵奖吗？
如何系统学习机器学习？
NLP领域，你推荐哪些综述性的文章？