百科问答小站 logo
百科问答小站 font logo



机器学习中非均衡数据集的处理方法? 第1页

  

user avatar   huang-xiao-ye-8 网友的相关建议: 
      

做毕设碰到过类似的问题,也算小小研究过,就来不耻回答一下。。

推荐看一下Haibo He, Edwardo A. Garcia的Learning from Imbalanced Data这篇paper,写的很系统也很清晰。

主要包括四大类方法,1Sampling 2Cost Sensitive Methods 3Kernal-Based Methods and Active Learning Methods 4One-Class Learning or Novelty Detection Methods。

Sampling大类说到底就是两种可能。第一种是把多的那个组变少,第二种是把少的那个组变多,以达到平衡的结果。一般比较少用第一种,因为那样容易丢失重要信息。对于第二种,又有很多方法,最简单的是oversampling,由于其局限性,又有很多根据已有的数据生成新数据的方法,比如各种变体的synthetic sampling。

第二种思路是基于把多数组猜成少数组和把少数组猜成多数组的cost是不同的这个事实,来修正数据分布(个人理解可以当成采到样的概率)的方法。

另外,kernal类的模型,还可以通过修改核函数来偏移hyperplane,来抵消不平衡数据造成的hyperplane的偏移。

最后一大类没有看过相关paper,不了解。。




  

相关话题

  计算机专业应该如何发展? 
  推荐算法岗是否存在严重人才过剩? 
  使用pytorch时,训练集数据太多达到上千万张,Dataloader加载很慢怎么办? 
  GBDT算法的细节问题? 
  如何比较Keras, TensorLayer, TFLearn ? 
  有哪些不错的数据可视化网站? 
  把一个视频文件后缀改成txt,得到是一串代码,那么反过来,有没有一种规律,编写一段代码然后生成视频? 
  为什么各大数据中心全部建立在贵州? 
  如何理解MCMC中的细致平稳条件? 
  现在机器学习工业界和学术界的差别越来越大了吗?尽早实习和踏实科研各有什么利弊? 

前一个讨论
为什么金庸、梁羽生、古龙之后再无武侠小说作家了呢?
下一个讨论
既然蛋蛋(睾丸)对动物的繁殖至关重要,为了降温直接吊在体外可以理解,但为什么不进化出有保护作用的蛋壳?





© 2025-05-30 - tinynew.org. All Rights Reserved.
© 2025-05-30 - tinynew.org. 保留所有权利