大家用resnet50在imagenet上面top1最高能到多少？ 第1页
1
maxsky-5 网友的相关建议:
因为大多数paper报的baseline都是100epoch+[30 60 90] step learning schedule的setting，也就是fb复现resnet时用的setting，具体见https://github.com/facebookarchive/fb.resnet.torch。
nas出现以后大家开始用一些更牛逼的training setting来训练自己的网络了，跑几百个epoch，cosine learning schedule，label smooth，mixup，auto augmentation等等，所以resnet50的结果也越来越高，具体可参考https://arxiv.org/pdf/1812.01187.pdf。
后面还有distill，unlabeled data等一堆技巧，关注Quoc V. Le，你就能拥有一切。[doge]
1
相关话题
梯度下降法的神经网络容易收敛到局部最优，为什么应用广泛？为什么 larger batch size 对对比学习的影响比对监督学习的影响要大？
为什么谈论深度学习工具时，很少有人讨论matlab的神经网络工具包？
2019年CVPR有哪些糟糕的论文?
如何评价MXNet发布的1.0版本？
图片上训的模型，怎么迁移视频上呢？
基于深度学习的人工智能程序和传统程序的差别在哪里？
如何评价 CVPR2022 的审稿结果和录取情况？
视觉Transformer如何优雅地避开位置编码？
深度学习应用在哪些领域让你觉得「我去，这也能行！」？
相关的话题
CTC和Encoder-Decoder有什么关系?如何看待 Nervana 被 Intel 收购？
深度学习在无人驾驶汽车上面的运用有哪些？
如何评价Hinton组的新工作SimCLR?
image caption这个方向更偏向NLP还是CV？
贝叶斯深度学习是什么，和传统神经网络有何不同？
深度学习对图像的处理，为什么大多基于RGB，而没有其他色彩空间，比如HSV？
cv/nlp等方向的就业困难是全球性的吗？
为什么VAE-GAN的训练很容易发生梯度爆炸，如何避免？
Batch normalization和Instance normalization的对比？
如何看待 Google 既可以作 Inference，又可以作 Training 的新一代 TPU？
请问下大家训练 SimCSE 时, loss 有没有这样的情况?
2021年人工智能领域有哪些关键性进展和突破？
NLP领域，你推荐哪些综述性的文章？
GAN的生成器是怎么产生图片的？
如何看待谷歌研究人员提出的卷积正则化方法「DropBlock」？
DL/ML 模型如何部署到生产环境中？
想问下专业人士 OpenCv会被深度学习进一步取代吗进一步取代吗？
为什么强大的 MXNet 一直火不起来？
CVPR2022 有什么值得关注的论文 ?
如何评价 Self-Normalizing Neural Networks 这篇论文?
《人工智能训练师国家职业技能标准》发布，有哪些值得关注的信息？
为什么谈论深度学习工具时，很少有人讨论matlab的神经网络工具包？
如何评价 DeepMind 公布的可生成算法竞赛解题代码的 AlphaCode？
为什么现在不看好 CV 方向了呢?
实验室一块GPU都没有怎么做深度学习？
为什么很少人用FFT加速CNN卷积层的运算？
2021年，ncnn发展的如何了？
国内做NLP业务的香侬科技值得去吗？
如何评价旷视开源的YOLOX，效果超过YOLOv5?