为什么 BERT 的 intermediate_size 这么大？ 第1页
1
guotong1988 网友的相关建议:
建议阅读：《Optimal Subarchitecture Extraction for BERT》
1
相关话题
CVPR 2015 有什么值得关注的亮点？如何看待字节跳动 AI 实验室总监李磊入职 UCSB？
如何看待李国杰院士在科学网发文称，国内 AI 研究「顶不了天、落不了地」，该想想了？
生成式对抗网络GAN有哪些最新的发展，可以实际应用到哪些场景中？
使用pytorch时，训练集数据太多达到上千万张，Dataloader加载很慢怎么办?
如何评价Google Duplex（打电话AI）在特定领域已经通过了图灵测试？
请问在金融风控方向，如何运用用户行为序列进行特征设计和挖掘？
机器学习算法进行分类时，样本极度不平衡，评估模型要看哪些指标？
能否训练一个AI模型来预测房价，寻找投资机会挖掘价值洼地？
GAN的生成器是怎么产生图片的？
下一个讨论
多模态训练，怎么解决不同模态之间差异的问题？
相关的话题
为何以范剑青老师的 Sure Independence Screening 为代表的筛选法没有流行呢？对于神经网络，硕士博士不需要弄明白原理，只需要应用，是这样吗？
除了深度神经网络已经实现的特性以外，大脑还有哪些特性是值得机器学习领域借鉴的？
想问下专业人士 OpenCv会被深度学习进一步取代吗进一步取代吗？
面试官如何判断面试者的机器学习水平？
机器学习的解释模型存在嘛？
GAN:固定训练好的判别器网络，去指导训练生成器为什么不可以？
为什么国家将加快人工智能研究生培养？又为什么很多研究生评论人工智能是个大坑呢？
如何评价Google Duplex（打电话AI）在特定领域已经通过了图灵测试？
如何评价 Self-Normalizing Neural Networks 这篇论文?
语音识别中，声学模型与语言模型扮演什么角色？或者说是怎么通过两个模型进行语音识别的?
有人说「真正的人工智能至少还要几百年才能实现」，真的是这样吗？
什么是机器学习？
CTR预估中怎样加入图片特征？图片特征怎么提取？
2022 年初，你认为哪项成果代表了现在人工智能的最高水平？
如何评价Kaiming He团队的MoCo v3？
CTC和Encoder-Decoder有什么关系?
神经网络中，bias有什么用，为什么要设置bias，当加权和大于某值时，激活才有意义？
BERT模型可以使用无监督的方法做文本相似度任务吗？
谷歌翻译原理是什么，从语言A到B，中间是否要翻译成中介语言C（如英语）？
如何看待马毅老师深度学习第一性原理的文章在 ICML 四个审稿人一致接收的情况下被 AC 拒了？
如何用自然语言处理判断一句话是否符合中文口语习惯？
如何看待NIPS2017图灵奖得主贝叶斯网络之父Judea Pearl讲座无人问津？
如何评价Hinton组的新工作SimCLR?
attention跟一维卷积的区别是啥？
视觉Transformer如何优雅地避开位置编码？
视觉算法的工业部署及落地方面的技术知识，怎么学？
如何用一句话证明自然语言处理很难？
主动学习（Active Learning）近几年的研究有哪些进展，现在有哪些代表性成果？
有没有根据一张人物的立绘正面像，自动生成同风格各侧面角度像并自动衍生表情的软件啊？