2021 年，深度学习方面取得了哪些关键性进展？ 第1页
1
xie-xu-dong-76 网友的相关建议:
不敢妄加评论，只是个人意见，GitHub上有人总结了2021 Amazing AI papers，我认为比较中肯，基本可以算是今年影响力比较大的论文集锦
我认为其一是Transformer攻占各个领域，尤其是Swin Transformer大杀四方；其二是各大研究机构的预训练大模型发布及其在下游任务的惊人性能，当然这也离不开self-supervised+transformer；其三就是大家都提到的MAE，当然还是离不开transformer；还有一个我认为比较重要的是基于NeRF的一系列工作也在今年开始爆发，包括CVPR best paper GIRAFFE，不过这方面工作主要还是集中在国外研究团队
1
相关话题
如何评价深度学习之父Hinton发布的Capsule论文？如何评价旷视开源的YOLOX，效果超过YOLOv5?
有哪些比较好的元学习（meta learning）领域的学习资源？
如何看待华为 4 月 25 日发布的盘古智能大模型？在这个行业处于什么水平？
word2vec 相比之前的 Word Embedding 方法好在什么地方？
从算法的角度来看，Elsagate 事件暴露出了「自动推荐」的哪些问题，该如何规避？
学习两年多，感觉SLAM太难了，大家对此有什么想法？
普通FPGA工程师怎样向人工智能靠拢？
疫情长期伴随我们的生活，作为家长，我们该怎样更好地帮助孩子健康成长？
为什么CV能做到让一幅人脸图动了笑了，而NLP的text-style-transfer进展貌似一般？
相关的话题
如果你是面试官，你怎么去判断一个面试者的深度学习水平？为什么CV能做到让一幅人脸图动了笑了，而NLP的text-style-transfer进展貌似一般？
为什么Transformer要用LayerNorm？
如何用简单易懂的例子解释条件随机场（CRF）模型？它和HMM有什么区别？
加州大学伯克利分校为何能连续孵化出 Mesos,Spark,Alluxio,Ray 等重量级开源项目?
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
2022 年即将到来，回顾 2021 年你有哪些微小的进步和坚持，特别值得被铭记？
如何看待Transformer在CV上的应用前景，未来有可能替代CNN吗？
人工智能可以为人类找寻他们心目中的另一半吗?
你的 2022 新年目标计划是什么？
机器学习中的机器是如何分辨哪些是有用的知识，哪些是没用的信息呢？
能否介绍一下强化学习（Reinforcement Learning），以及与监督学习的不同？
如何评价你的 2021 年？对 2022 年你有哪些规划？
未来 3~5 年内，哪个方向的机器学习人才最紧缺？
如何看待阿里巴巴提出的 FashionAI 比赛？
2022 年最稳的理财方式是什么？
深度学习底层开发对数学有哪些要求？
基于计算机视觉从一张图片重建人体的三维网格，能否获取腰围、胸围、臂长、腿长等数据？
机器学习能否用于综合评价？具体怎么操作？
如何评价Google最新提出的gMLP：MLP模型在CV和NLP任务上均取得较好的效果？
演员被贴上明显的标签，是会限制他的戏路，还是更有利于他被大众认可？
如何评价 2018 清华大学特等奖学金计算机大类（贵系、软院、姚班）无人通过一轮筛选？
为什么我用相同的模型，数据，超参，随机种子，在两台服务器会得到不同的结果？
人工智能 CV 岗位是不是现在供严重大于需？
如何评价周志华教授新提出的 Deep Forest 模型，它会取代当前火热的深度学习 DNN 吗？
如何理解 Swin Transformer 和 Vision Transformer不同任务上的差异？
2021 年你存款目标多少，存了多少钱？
普通程序员如何正确学习人工智能方向的知识？
刷leetcode使用python还是c++？
有人说「真正的人工智能至少还要几百年才能实现」，真的是这样吗？