2021 年，深度学习方面取得了哪些关键性进展？ 第1页
1
xie-xu-dong-76 网友的相关建议:
不敢妄加评论，只是个人意见，GitHub上有人总结了2021 Amazing AI papers，我认为比较中肯，基本可以算是今年影响力比较大的论文集锦
我认为其一是Transformer攻占各个领域，尤其是Swin Transformer大杀四方；其二是各大研究机构的预训练大模型发布及其在下游任务的惊人性能，当然这也离不开self-supervised+transformer；其三就是大家都提到的MAE，当然还是离不开transformer；还有一个我认为比较重要的是基于NeRF的一系列工作也在今年开始爆发，包括CVPR best paper GIRAFFE，不过这方面工作主要还是集中在国外研究团队
1
相关话题
什么是主动学习（Active Learning, AL）？如何评价阿里巴巴启动NASA计划？
如何计算CNN中batch normalization的计算复杂度（FLOPs）？
如何用一句话证明自然语言处理很难？
第一批 00 后即将进入社会，会给职场带来哪些新变化？
阿里的TDM树深度模型为什么很少有人用，是有哪些问题吗？
如何评价2020年计算机视觉顶会CVPR投稿量破万的现象？
如何评价VOLO: Vision Outlooker for Visual Recognition？
人工智能领域有哪些精妙的数学原理？
MPI 在大规模机器学习领域的前景如何？
相关的话题
GAN（对抗生成网络）可以被用于哪些（商业或潜在商业）实际问题？transformer 为什么使用 layer normalization，而不是其他的归一化方法？
有什么深度学习数学基础书推荐？
运维监控的KPI异常检测 业界有哪些实用方法？
如何看待 Nervana 被 Intel 收购？
ICLR 2021 有什么值得关注的投稿？
行为识别常用哪种特征提取？
测试集在构造的时候需要人为控制其中应该正确的和应该错误的数据比例吗？
华为轮值董事长新年致辞称「预计今年营收 6340 亿元同比下降 28.9%」，还有哪些信息值得关注 ？
机器学习该怎么入门？
越来越多歌曲因短视频爆红，这对音乐创作是好事还是坏事？
2021 只剩下最后几天了，至今为止今年国内外发生的哪些大事让你印象深刻，感觉是「见证了历史」？
机器学习能否用于综合评价？具体怎么操作？
反馈控制理论在优化、机器学习等领域有哪些应用？
在做算法工程师的道路上，你掌握了什么概念或技术使你感觉自我提升突飞猛进？
2020到2021年小样本学习取得重大进展了吗？
计算机视觉中，目前有哪些经典的目标跟踪算法？
如何评价华为天才少年钟钊团队成功开启了 AutoML 大规模商用的先河？什么是 AutoML？
假如我穿越到2017年第一个提出了Transformer、BERT等模型，我可以保送到清华北大吗？
pytorch 的高层库ignite怎么样？
Facebook 的人工智能实验室 (FAIR) 有哪些厉害的大牛和技术积累？
2019年NeurIPS有哪些糟糕的论文？
2021 年了，机器/深度学习还有哪些坑比较好挖？
机器通过主动学习能为人类生活带来怎样的改变？
如何理解Inductive bias？
scikit-learn, tensorflow, pytorch真的只需要查下API，不需要学吗?
2022 年电子消费品会有什么新的突破？
NLP 中 prompt learning 有哪些可能的天生缺陷？目前有什么样的方法来解决这样的缺陷？
2019年CVPR有哪些糟糕的论文?
计算机视觉有多少分支？