2021 年，深度学习方面取得了哪些关键性进展？ 第1页
1
xie-xu-dong-76 网友的相关建议:
不敢妄加评论，只是个人意见，GitHub上有人总结了2021 Amazing AI papers，我认为比较中肯，基本可以算是今年影响力比较大的论文集锦
我认为其一是Transformer攻占各个领域，尤其是Swin Transformer大杀四方；其二是各大研究机构的预训练大模型发布及其在下游任务的惊人性能，当然这也离不开self-supervised+transformer；其三就是大家都提到的MAE，当然还是离不开transformer；还有一个我认为比较重要的是基于NeRF的一系列工作也在今年开始爆发，包括CVPR best paper GIRAFFE，不过这方面工作主要还是集中在国外研究团队
1
相关话题
媒体预测 2022 年互联网 10 大关键词，反垄断、互联互通、数据安全等入选，你认同吗？想问下专业人士 OpenCv会被深度学习进一步取代吗进一步取代吗？
老师给了一个神经网络的程序，他之前是跑通了的，但是我迭代几十次或者一百多次就报错。这个怎么解决?
ICLR 2022有哪些值得关注的投稿？
低分辨率图像相对于高分辨率图像在CNN中缺失了哪些特征？
去美国读CS博士，方向是机器人导航，视觉方面，推荐一下相关编程方面准备？还有相关算法需要学习哪些？
硕士方向，选择迁移学习还是自然语言处理？
为什么在实际的kaggle比赛中，GBDT和Random Forest效果非常好？
2022 年，你认为哪个投资方向会有较大的增长空间？
领域自适应需要用到测试集数据，这样的方法有啥意义呢？
相关的话题
如何评价 DeepMind 在星际中的失利，以及 OpenAI 在 Dota 上的成功？2022 年，你认为哪个投资方向会有较大的增长空间？
计算机视觉顶级会议论文中比较适合初学计算机视觉的人做的复现实验有哪些？
wav2vec中的30ms是怎么得来的?
神经网络中 warmup 策略为什么有效；有什么理论解释么？
如何评价 BERT 模型？
2021 年了，机器/深度学习还有哪些坑比较好挖？
PyTorch中在反向传播前为什么要手动将梯度清零？
如何评价Deepmind自监督新作BYOL？
如何看待Geoffrey Hinton的言论，深度学习要另起炉灶，彻底抛弃反向传播？
2021 年哪几位演员是你心中的「年度演员」？
如何看待KDD'21的文章，异质图神经网络的效果不如简单的GCN、GAT？
百度学术能否替代 Google 学术网站？有没有其他选择？
如何看待timm作者发布ResNet新基准：ResNet50提至80.4，这对后续研究会带来哪些影响？
如何评价新Nature子刊Nature Machine Intelligence的出现？
2021年，作为算法工程师的你们会在CV业务落地上用Transformer吗？
为什么交叉熵（cross-entropy）可以用于计算代价？
Dirichlet Processes 是一个什么样的随机过程？
为什么opencv使用BRG模式读入图像？
cygwin和mingw选哪个？
请问一下，机器学习领域的联邦学习技术，目前看到最多的是微众银行，国内还有哪些顶级专家及机构和大学？
作为职场小白，年终总结应该如何撰写会更加分？
2019年CVPR有哪些糟糕的论文?
如何评价深度学习之父Hinton发布的Capsule论文？
坐标日本，计算机视觉专攻。有英文交流氛围浓厚的研究室推荐吗？
PyTorch中在反向传播前为什么要手动将梯度清零？
如何评价Hinton组的新工作SimCLR?
为何中国人迷恋吴恩达的机器学习课？
nlp有哪些值得完整实现一遍的算法?
Evidential deep learning里一般怎么估计多标签分类的Uncertainty？