大家用resnet50在imagenet上面top1最高能到多少？ 第1页
1
maxsky-5 网友的相关建议:
因为大多数paper报的baseline都是100epoch+[30 60 90] step learning schedule的setting，也就是fb复现resnet时用的setting，具体见https://github.com/facebookarchive/fb.resnet.torch。
nas出现以后大家开始用一些更牛逼的training setting来训练自己的网络了，跑几百个epoch，cosine learning schedule，label smooth，mixup，auto augmentation等等，所以resnet50的结果也越来越高，具体可参考https://arxiv.org/pdf/1812.01187.pdf。
后面还有distill，unlabeled data等一堆技巧，关注Quoc V. Le，你就能拥有一切。[doge]
1
相关话题
经过足够长的时间， AlphaGo 的棋谱能收敛到一张上吗？如何评价FAIR提出的ConvNeXt：CNN匹敌Swin Transformer?
如何解读 Jeff Dean 等联合在 arXiv 上发布的用深度学习分析电子病历的论文？
如何评价mixup: BEYOND EMPIRICAL RISK MINIMIZATION？
如何评价 CVPR2022 的审稿结果和录取情况？
为什么很少人用FFT加速CNN卷积层的运算？
是不是并不是所有问题都适合用神经网络预测？
如何看待Jeff Dean&Hinton投到ICLR17的MoE的工作？
LSTM如何来避免梯度弥散和梯度爆炸？
计算机图形学是否已经进入瓶颈期？
相关的话题
计算机如何理解图像?如何评价FAIR提出的ConvNeXt：CNN匹敌Swin Transformer?
Evidential deep learning里一般怎么估计多标签分类的Uncertainty？
如何评价 Kaiming 团队新作 Masked Autoencoders (MAE)？
如何将某个分布作为机器学习的特征？
注意力机制是如何学习到模型所应注意的区域的？
有没有必要把机器学习算法自己实现一遍？
adversarial training为什么会起作用？
如何评价谷歌提出的 Pix2Seq：将目标检测看成语言建模，效果超过 DETR？
如何理解深度学习源码里经常出现的logits？
如何评价FAIR提出的MaskFeat：一种适用图像和视频分类的自监督学习方法？
搞机器学习的生环化材是天坑吗？
如何看待旷视 detection 组组长俞刚跳槽腾讯 PCG 光影研究室?
能分享你收藏的国外AI talk, seminar平台或网站吗？
有没有什么可以节省大量时间的 Deep Learning 效率神器？
如何理解链接预测（link prediction）？
如何评价 MSRA 视觉组最新提出的 Deformable ConvNets V2？
国内哪些公司在用caffe、torch、TensorFlow、paddle等框架，哪些在用自研框架？
有监督和无监督学习都各有哪些有名的算法和深度学习？
视觉算法的工业部署及落地方面的技术知识，怎么学？
如何看待旷视确定香港上市？
DL/ML 模型如何部署到生产环境中？
对自己深度学习方向的论文有idea，可是工程实践能力跟不上，实验搞不定怎么办？
国内做NLP业务的香侬科技值得去吗？
如何评价Facebook AI提出的ResMLP，对比Google的MLP-Mixer?
有人说「真正的人工智能至少还要几百年才能实现」，真的是这样吗？
使用强化学习解决实际问题时常常避不开环境模拟或者使用离线强化学习算法，两者分别有什么优缺点？
要研究深度学习的可解释性（Interpretability），应从哪几个方面着手？
graph convolutional network有什么比较好的应用task？
从应用的角度来看，深度学习怎样快速入门？