Transformer在工业界的应用瓶颈如何突破？ 第1页
1
pi-qia-che-70 网友的相关建议:
回答问题：工业界+蛋白质领域，Alphafold2的trunk部分用的就是transformer。同时facebook的MSA transformer在无监督提取蛋白质接触图谱上有了大的突破。
问题之外：我觉得大家不要过分只关注transformer，transformer只是一种特殊形式的GNN。在图神经网络上有更大的空间。Relational inductive biases, deep learning, and graph networks
1
相关话题
欧洲有哪些统计机器学习比较强的大学或者研究院的？？为什么读论文最好打印出来读？
研究推荐系统要对NLP很了解吗？
如果你是面试官，你怎么去判断一个面试者的深度学习水平？
测试集在构造的时候需要人为控制其中应该正确的和应该错误的数据比例吗？
女性比男性从意识上更高级吗？
卷积神经网络（CNN）的结构设计都有哪些思想？
机器学习，深度神经网络等方法是否是正确的方向？
如何理解attention中的Q,K,V？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
前一个讨论
杭州空气是不是很差？如果是，为什么那么差？
下一个讨论
导师要抢我的一作，我该怎么办？
相关的话题
有哪些优秀的深度学习入门书籍？需要先学习机器学习吗？为什么中国象棋界好像少听说围棋界阿尔法狗那样打败人类最顶级大师的轰动性事件？
如何看待由 AI 绘制的漫画《Phaedo》？
神经网络为什么可以（理论上）拟合任何函数？
迁移学习与fine-tuning有什么区别？
如何看待谷歌研究人员提出的卷积正则化方法「DropBlock」？
如何评价 2021 年 12 月新改版的知识引擎 magi.com？
小米、特斯拉、小鹏先后宣布研发机器人，现代汽车收购波士顿动力，车企纷纷布局机器人领域是趋势还是噱头？
AlphaGo 有没有「棋风」？它在下棋时会犯错吗？
为什么有很多名人让人们警惕人工智能？
做底层 AI 框架和做上层 AI 应用，哪个对自己的学术水平（或综合能力）促进更大？
ICLR 2019 有什么值得关注的亮点？
既然使用神经网络也可以解决分类问题，那SVM、决策树这些算法还有什么意义呢？
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
如果你是图灵测试者，你会问机器什么问题？
能否介绍一下强化学习（Reinforcement Learning），以及与监督学习的不同？
transformer 为什么使用 layer normalization，而不是其他的归一化方法？
有哪些人工智能上的事实，没有一定人工智能知识的人不会相信？
所谓大数据分析，究竟要学什么？
如何评价华为天才少年钟钊团队成功开启了 AutoML 大规模商用的先河？什么是 AutoML？
机器学习，深度神经网络等方法是否是正确的方向？
皮尔逊系数为什么要中心化？中心化之后有什么好处？
各类科研领域中哪些公式，原理或定律的推出，用到了有趣的思维方式？
神经网络的万能逼近定理已经发展到什么地步了？
2021 年，深度学习方面取得了哪些关键性进展？
如何看待字节跳动进军AI芯片领域？
如果股市里面有很多人工智能炒股机器，散户还有机会吗？
如何证明马尔科夫链一定会达到稳态？
有谁照着论文把 AlphaGo 重现出来了？
在集成电路设计领域（数字，模拟），人工智能有无可能取代人类？