百科问答小站 logo
百科问答小站 font logo



神经网络训练多个epoch,写论文的时候可以取最好的效果那一个epoch作为结果吗? 第1页

  

user avatar   rewrgf 网友的相关建议: 
      

见到paper实验里写的这种,无论他其他的部分写的多好,反正我看到了就会给打个strong reject。

因为这属于学术不端,本质上是information leaking,相当于在得到结果的时候预先使用了test set的信息。在你得到训练好的模型之前,你是不允许使用test set的任何信息的。(当然把test set accuracy 在代码里打印出来其实是可以的,但你要确保这个信息绝不参与对训练好的模型的选择)你都能在训练过程中找到”test set表现最好的那个epoch"了,这和直接把test set加入train set得到一个overfit的东西,有什么区别呢?

正确的做法是使用validation set上表现最好的那个epoch,放到test set上去看结果。


user avatar   ZhengPeng7 网友的相关建议: 
      

女王:求求题主放过我,我可不敢有什么政绩。。。




  

相关话题

  国外如何评价科研人员水平,和他们的科研成果? 
  从人脑角度来说为什么人画画会越来越准(形准)? 
  神经网络中 warmup 策略为什么有效;有什么理论解释么? 
  了解/从事机器学习/深度学习系统相关的研究需要什么样的知识结构? 
  如何评价何恺明、Ross Girshick组的自监督时空表征学习新作? 
  为什么ViT里的image patch要设计成不重叠? 
  深度学习中,模型大了好还是小了好呢? 
  如何评价PyTorch 0.4.0? 
  ICLR 2021 有什么值得关注的投稿? 
  硕士研究生三年要发SCI很难吗? 

前一个讨论
如何评价清华大学电子系大一暑假小学期总共 9 个学时的 Python 课程大作业难度?
下一个讨论
如何评价东奥决赛选手若因阳性弃权可获银牌,这规则你支持吗?





© 2025-06-07 - tinynew.org. All Rights Reserved.
© 2025-06-07 - tinynew.org. 保留所有权利