Transformer在工业界的应用瓶颈如何突破？ 第1页
1
pi-qia-che-70 网友的相关建议:
回答问题：工业界+蛋白质领域，Alphafold2的trunk部分用的就是transformer。同时facebook的MSA transformer在无监督提取蛋白质接触图谱上有了大的突破。
问题之外：我觉得大家不要过分只关注transformer，transformer只是一种特殊形式的GNN。在图神经网络上有更大的空间。Relational inductive biases, deep learning, and graph networks
1
相关话题
如何看待在某度搜不到megengine官网？如何评价科大讯飞AI学习机T10发布会，有哪些亮点和升级？
有哪些贝叶斯推理入门的书籍？
请问一下，机器学习领域的联邦学习技术，目前看到最多的是微众银行，国内还有哪些顶级专家及机构和大学？
有哪些深度学习效果不如传统方法的经典案例？
旷视(Face++)完成C轮1亿美元融资，是否说明旷视已经进入独角兽阵营？
如何评价MXNet发布的1.0版本？
现代人工神经网络是不是一个死胡同？这个技术是不是骗人的？
使用强化学习解决实际问题时常常避不开环境模拟或者使用离线强化学习算法，两者分别有什么优缺点？
如何评价 Kaiming 团队新作 Masked Autoencoders (MAE)？
前一个讨论
杭州空气是不是很差？如果是，为什么那么差？
下一个讨论
导师要抢我的一作，我该怎么办？
相关的话题
时间序列和回归分析有什么本质区别？神经网络中 warmup 策略为什么有效；有什么理论解释么？
如何看待阿里平头哥发布的全球最高性能 AI 芯片「含光 800」？这款芯片核心技术是什么呢？
如何去构建一家属于【我们自己】的公司（超级合作社）？
如何看待阿里巴巴 AI labs 引进两位年薪百万美元的科学家？意味着阿里在AI 方面会有哪些新探索？
NLP 中 prompt learning 有哪些可能的天生缺陷？目前有什么样的方法来解决这样的缺陷？
TensorFlow 有哪些令人难以接受的地方？
在CV/NLP/DL领域中，有哪些修改一行代码或者几行代码提升性能的算法？
计量经济学是不是过时了？
用于数据挖掘的聚类算法有哪些，各有何优势？
你有哪些deep learning（rnn、cnn）调参的经验？
如果百年后深度学习最终有了公认的数学理论作为基础，能解释实验中的各类玄学，那这个理论会长什么样子？
多因子模型是否真的可以带来阿尔法（alpha）？
机器学习小白来提问：关于联邦学习FedAVG和FedSGD的问题？
OpenAI 发布文字生成图像工具 DALL·E 2，它的画作水平如何？从技术角度如何评价它的能力？
如何评价Yann LeCun 说的「要研究机器学习，本科应尽量多学物理和数学课」？
各种机器学习算法的应用场景分别是什么（比如朴素贝叶斯、决策树、K 近邻、SVM、逻辑回归最大熵模型）？
人工智能将会为教育带来哪些改变？
为什么最近几年 FPGA 变得越发受大家重视了？
为什么在实际的kaggle比赛中，GBDT和Random Forest效果非常好？
如何评价诺奖得主 Thomas J. Sargent「人工智能其实就是统计学」的观点？
机器学习（machine learning）在经济学领域是否有应用前景？
神经网络为什么可以（理论上）拟合任何函数？
如何看待阿里巴巴成立全球研究院“达摩院” 引入顶尖科学家3年研发投入1000亿？
因果推断（causal inference）是回归（regression）问题的一种特例吗？
写深度学习代码是先写model还是dataset还是train呢，有个一般化的顺序吗？
如何看待 2019 年麻省理工选出的全球十大突破性技术，你觉得其中哪个技术会在 5 年内产生巨大影响？
因果推断（causal inference）是回归（regression）问题的一种特例吗？
医学生学习机器学习该如何入门？
精确率、召回率、F1 值、ROC、AUC 各自的优缺点是什么？