2021 年，深度学习方面取得了哪些关键性进展？ 第1页
1
xie-xu-dong-76 网友的相关建议:
不敢妄加评论，只是个人意见，GitHub上有人总结了2021 Amazing AI papers，我认为比较中肯，基本可以算是今年影响力比较大的论文集锦
我认为其一是Transformer攻占各个领域，尤其是Swin Transformer大杀四方；其二是各大研究机构的预训练大模型发布及其在下游任务的惊人性能，当然这也离不开self-supervised+transformer；其三就是大家都提到的MAE，当然还是离不开transformer；还有一个我认为比较重要的是基于NeRF的一系列工作也在今年开始爆发，包括CVPR best paper GIRAFFE，不过这方面工作主要还是集中在国外研究团队
1
相关话题
god bless us 为什么百度翻译是辛巴？如何评价MSRA视觉组最新对spatial attention mechanism分析论文？
能否使用区块链的算力来解决深度学习训练？
如何看待Capsule Network在NLP领域的潜力？
如何把梯度传递过Argmax?
为啥gan里面几乎不用pooling？
2022 年，你认为哪个投资方向会有较大的增长空间？
微软小冰测颜值是否比较准？为什么？
Transformer是如何处理可变长度数据的？
2021年你拍过最好的照片是什么？
相关的话题
ICLR 2018 有什么值得关注的亮点？如果用机器学习的理论来理解人的行为，会有什么发现？
cygwin和mingw选哪个？
大二就中 CVPR/ICCV/ECCV/NIPS 是一种怎样的体验？
如何用一句话证明自然语言处理很难？
你实践中学到的最重要的机器学习经验是什么？
GAN:固定训练好的判别器网络，去指导训练生成器为什么不可以？
为什么交叉熵（cross-entropy）可以用于计算代价？
熵权法确定权重的原理是不是因为它仅依赖于数据本身的离散性?
如何证明数据增强（Data Augmentation）有效性？
你的 2022 新年目标计划是什么？
石头和塑料袋对于计算机传感器的差别在于什么？为什么无人驾驶系统会依然存在对周围环境的误判？
如何开发一个自己的 TensorFlow？
医学生学习机器学习该如何入门？
如何看待Transformer在CV上的应用前景，未来有可能替代CNN吗？
2021 年你一共做过多少次核酸？做核酸的心态发生了怎样的变化？
如果用机器学习的理论来理解人的行为，会有什么发现？
2021年，ncnn发展的如何了？
2021 年网络小说里有哪些让你印象深刻的主角或角色？
当初的生物热，和如今的全民CS全民AI，让你想到了什么？
计算机视觉中，目前有哪些经典的目标跟踪算法？
如何评价最新的Octave Convolution？
隐私计算、计算机视觉、自然语言处理三者中，哪个研究起来更有前途？
深度学习如何入门？
如何看待swin transformer成为ICCV2021的 best paper？
如何看待马毅教授在国内评不上杰青？
2021 你到过哪些地方令你觉得人间值得？
2021 年，哪一瞬间让你觉得此生无悔入华夏？
如何评价第一局比赛 AlphaGo 战胜李世石？
为什么Transformer适合做多模态任务？