Transformer在工业界的应用瓶颈如何突破？ 第1页
1
pi-qia-che-70 网友的相关建议:
回答问题：工业界+蛋白质领域，Alphafold2的trunk部分用的就是transformer。同时facebook的MSA transformer在无监督提取蛋白质接触图谱上有了大的突破。
问题之外：我觉得大家不要过分只关注transformer，transformer只是一种特殊形式的GNN。在图神经网络上有更大的空间。Relational inductive biases, deep learning, and graph networks
1
相关话题
计算机视觉研一，只学过Python基础，目前代码能力很差，要不要换导师，不换的话如何毕业？TensorFlow的自动求导具体是在哪部分代码里实现的？
为什么越来越多的公司选择全部搬到云上？
为什么nlp没有像cv四小龙一样的创业公司？
大家都是在哪些网站找数据？
为啥gan里面几乎不用pooling？
已有大量编程基础，如何速成python用于学习机器学习？
新基建来了，可能会给普通人的生活带来哪些影响或提升？
未来想研究达芬奇手术机器人（智能医学或精准医学方向），需要学习哪些专业知识？
AI 芯片和传统芯片有何区别？
前一个讨论
杭州空气是不是很差？如果是，为什么那么差？
下一个讨论
导师要抢我的一作，我该怎么办？
相关的话题
大脑是如何进行“联想”的？如何评价 Kaiming 团队新作 Masked Autoencoders (MAE)？
有哪些关于机器学习的真相还鲜为人知？
作为从业者，你觉得人工智能行业的魅力在哪里？
AI 自己不会思考，为什么叫做人工智能？
如何评价FAIR提出的MaskFeat：一种适用图像和视频分类的自监督学习方法？
马化腾称「王者荣耀将举办 AI 电竞赛，希望激发青年人对通用 AI 的研究兴趣」，有哪些看点值得关注？
使用pytorch时，训练集数据太多达到上千万张，Dataloader加载很慢怎么办?
语义网所谓的“本体”的具体例子是什么？
如何看待谷歌公开 tensorflow 专用处理器 TPU?
你所在的研究领域里，有哪些工作的结果虽然不是造假，但是是精挑细选出来的?
为什么说股票不能通过机器学习来预测？
BERT中，multi-head 768*64*12与直接使用768*768矩阵统一计算，有什么区别？
没有顶会的CV/NLP方向的博士生毕业出路在哪里？
NLP文本匹配问题的本质是不是 对于要预测的句子，遍历候选句子 从训练数据集里寻找最相似的pair？
对于人类的未来而言，星辰大海和虚拟现实，哪个才是更有意义的发展方向？
主动学习（Active Learning）近几年的研究有哪些进展，现在有哪些代表性成果？
把某人的 DNA 序列作为输入，正面照片作为输出，丢到深度神经网络里面学习，可行吗？
Elon Musk要给你的大脑植入芯片，你肯吗？
意识的生物学基础到底是什么？
2021年了，如何评价微软亚研提出的对偶学习（Dual Learning）？
LSTM如何来避免梯度弥散和梯度爆炸？
如何评价 Google 在 2022 年 3 月公开的 Pathways 架构设计？
NLP 中 prompt learning 有哪些可能的天生缺陷？目前有什么样的方法来解决这样的缺陷？
深度学习有哪些好玩的案例？
如何全面理解工程师红利？
谈谈机器学习在网络安全领域的局限性，以及是否乐观？
如何看待 Uber 发生全球首例自动驾驶致死事件？
面试官如何判断面试者的机器学习水平？
Graph Attention Network的本质是什么？