Transformer在工业界的应用瓶颈如何突破？ 第1页
1
pi-qia-che-70 网友的相关建议:
回答问题：工业界+蛋白质领域，Alphafold2的trunk部分用的就是transformer。同时facebook的MSA transformer在无监督提取蛋白质接触图谱上有了大的突破。
问题之外：我觉得大家不要过分只关注transformer，transformer只是一种特殊形式的GNN。在图神经网络上有更大的空间。Relational inductive biases, deep learning, and graph networks
1
相关话题
从算法的角度来看，Elsagate 事件暴露出了「自动推荐」的哪些问题，该如何规避？如何看待李沐老师提出的「用随机梯度下降来优化人生」？
神经网络中如果一个重要特征C等于特征A+特征B（算数意义上的相加），选特征的时候还有必要选特征C吗?
为什么nn的较大问题是会陷入局部最优时，不选用凸函数作为激活函数？
除了深度神经网络已经实现的特性以外，大脑还有哪些特性是值得机器学习领域借鉴的？
无人驾驶运营维护，自动驾驶运营维护，无人驾驶科技公司落地，逐渐走向现实，落地后的运营维护怎么办？
能识别情绪的机器人可以算做有情感的机器人吗？
视觉算法的工业部署及落地方面的技术知识，怎么学？
对自己深度学习方向的论文有idea，可是工程实践能力跟不上，实验搞不定怎么办？
如何评价周志华在微博对 AlphaGo 和机器学习技术的评论？
前一个讨论
杭州空气是不是很差？如果是，为什么那么差？
下一个讨论
导师要抢我的一作，我该怎么办？
相关的话题
神经网络为什么可以（理论上）拟合任何函数？AI 自己不会思考，为什么叫做人工智能？
如果有一天，医院里所有的医护人员都改由人工智能机器人来担任了，会发生什么事？
神经网络的万能逼近定理已经发展到什么地步了？
如何评价李开复称「ICO 是最大的泡沫，可能导致 AI 泡沫破裂」?
从今年校招来看，机器学习等算法岗位应届生超多，竞争激烈，未来 3-5 年机器学习相关就业会达到饱和吗？
为什么Transformer适合做多模态任务？
如何理解链接预测（link prediction）？
如何看待QQ邮箱翻译出他人的快递通知？
mxnet的并行计算为什么这么牛，是什么原理？
如何看待上海交大研发人工智能：通过脸部识别技术辨别罪犯？
如何简单形象又有趣地讲解神经网络是什么？
计算机视觉（CV）的算法有哪些，具体都有哪些特点？
如何评价浙江大学发布的“绝影”四足机器人?
如何评价今年各科技企业举办的开发者大会？
请问有没有基于实例的迁移学习的数据？
九零后都不愿意进工厂当工人了，工厂以后该如何发展呢？
如何看待 2014 年以来计算机视觉（Computer Vision）界创业潮？
如何评价《Science》封面文章《通过概率规划归纳的人类层次概念学习》?
为什么有些学数学的看不惯甚至鄙视 Deep Learning？
基于深度学习的人工智能程序和传统程序的差别在哪里？
如何理解 natural gradient descent?
机器狗送快递目前还有哪些瓶颈？
如何评价 7 月 31 日一流科技开源的深度学习框架 OneFlow？
深度学习在无人驾驶汽车上面的运用有哪些？
「费米悖论」大过滤器假说中的大过滤器可能有哪些？
Batch normalization和Instance normalization的对比？
如何看待谷歌公开 tensorflow 专用处理器 TPU?
能否把一个人的所有物理数据输入在一个模型里，然后计算他接下来的状态变化？
做底层 AI 框架和做上层 AI 应用，哪个对自己的学术水平（或综合能力）促进更大？