百科问答小站 logo
百科问答小站 font logo



如何证明数据增强(Data Augmentation)有效性? 第1页

  

user avatar   FesianXu 网友的相关建议: 
      

你这个说法是不准确的,一个机器学习模型由几大部分组成:数据,模型,损失函数,以及学习策略等。模型提供了假设空间和搜索空间,数据,损失函数和学习策略让算法得以在假设空间,搜索空间里面得以找到合适的解(也即是模型每个可学习参数的值),具体论证可见博客:

也就是说数据其实是学习模型的一部分,离开了数据无法谈及学习模型的泛化性能。那么我们回到正题,“如何证明数据增强(Data Augmentation)有效性?”,在论文

中,对图像上进行数据增广的方法进行了很多总结,其中谈到了什么是有效的数据增广,有效的数据增广的前提首先是label preserve的,也就是说增广前后起码数据的label要保持不变性,当然这个还不够全面,有些任务会要求协变性,具体两者区别见:

当然,label不变/协变只是必要条件,整个数据增广有效的充分必要条件应该是:label不变/协变(取决于任务),而且提供了足够的先验知识。 比如说:对图片进行旋转,平移,镜像,颜色空间抖动,像素抖动等等,都是模拟拍摄过程中可能产生的一些情况,由于数据集过小可能没有覆盖所有情况因此需要人工去提供这些先验。

那么这些先验必须要从数据增广中去添加吗?那也不一定,只是从数据增广的角度去处理是最简单的。你甚至可以去模型中修改模型的结构去提供这些先验假设。

总的来说,你会产生这个问题的原因就是:你没有认识到学习模型是由数据,模型,学习算法和损失等几部分组成的,并不是model万能。


以上




  

相关话题

  如何看待SIREN激活函数的提出? 
  神经网络中如果一个重要特征C等于特征A+特征B(算数意义上的相加),选特征的时候还有必要选特征C吗? 
  基于对比学习(Contrastive Learning)的文本表示模型【为什么】能学到语义【相似】度? 
  2020年,多标签学习(multi-label)有了哪些新的进展? 
  深度学习在信息安全的应用有哪些可以关注的人或论文? 
  学生网络用知识蒸馏损失去逼近教师网络,如何提高学生网络的准确率? 
  机器学习小白来提问:关于联邦学习FedAVG和FedSGD的问题? 
  基于深度卷积神经网络进行人脸识别的原理是什么? 
  在你做推荐系统的过程中都遇到过什么坑? 
  有监督和无监督学习都各有哪些有名的算法和深度学习? 

前一个讨论
预算 2021 元以内,你会如何打造自己的穿搭造型呢?
下一个讨论
最好的分手方式是怎样的?





© 2025-03-04 - tinynew.org. All Rights Reserved.
© 2025-03-04 - tinynew.org. 保留所有权利