百科问答小站 logo
百科问答小站 font logo



神经网络训练多个epoch,写论文的时候可以取最好的效果那一个epoch作为结果吗? 第1页

  

user avatar   rewrgf 网友的相关建议: 
      

见到paper实验里写的这种,无论他其他的部分写的多好,反正我看到了就会给打个strong reject。

因为这属于学术不端,本质上是information leaking,相当于在得到结果的时候预先使用了test set的信息。在你得到训练好的模型之前,你是不允许使用test set的任何信息的。(当然把test set accuracy 在代码里打印出来其实是可以的,但你要确保这个信息绝不参与对训练好的模型的选择)你都能在训练过程中找到”test set表现最好的那个epoch"了,这和直接把test set加入train set得到一个overfit的东西,有什么区别呢?

正确的做法是使用validation set上表现最好的那个epoch,放到test set上去看结果。


user avatar   ZhengPeng7 网友的相关建议: 
      

女王:求求题主放过我,我可不敢有什么政绩。。。




  

相关话题

  如何看待 AlphaFold 在蛋白质结构预测领域的成功? 
  如何评价 BERT 模型? 
  如果学习从零开始学习Pytorch,有优秀的开源项目可以推荐吗? 
  投了一篇 sci,返回意见是大修,没有经验,请问如何操作? 
  从今年校招来看,机器学习等算法岗位应届生超多,竞争激烈,未来 3-5 年机器学习相关就业会达到饱和吗? 
  在计算资源有限的情况下,有什么深度学习的选题可以推荐/避免? 
  为什么Transformer适合做多模态任务? 
  如何写出一篇优秀的硕士毕业论文? 
  为什么Bert中的CLS在未fine tune时作为sentence embedding性能非常糟糕? 
  人脑有海量的神经元(参数),那么人脑有没有「过拟合」行为? 

前一个讨论
如何评价清华大学电子系大一暑假小学期总共 9 个学时的 Python 课程大作业难度?
下一个讨论
如何评价东奥决赛选手若因阳性弃权可获银牌,这规则你支持吗?





© 2025-01-30 - tinynew.org. All Rights Reserved.
© 2025-01-30 - tinynew.org. 保留所有权利