百科问答小站 logo
百科问答小站 font logo



机器学习中非均衡数据集的处理方法? 第1页

  

user avatar   huang-xiao-ye-8 网友的相关建议: 
      

做毕设碰到过类似的问题,也算小小研究过,就来不耻回答一下。。

推荐看一下Haibo He, Edwardo A. Garcia的Learning from Imbalanced Data这篇paper,写的很系统也很清晰。

主要包括四大类方法,1Sampling 2Cost Sensitive Methods 3Kernal-Based Methods and Active Learning Methods 4One-Class Learning or Novelty Detection Methods。

Sampling大类说到底就是两种可能。第一种是把多的那个组变少,第二种是把少的那个组变多,以达到平衡的结果。一般比较少用第一种,因为那样容易丢失重要信息。对于第二种,又有很多方法,最简单的是oversampling,由于其局限性,又有很多根据已有的数据生成新数据的方法,比如各种变体的synthetic sampling。

第二种思路是基于把多数组猜成少数组和把少数组猜成多数组的cost是不同的这个事实,来修正数据分布(个人理解可以当成采到样的概率)的方法。

另外,kernal类的模型,还可以通过修改核函数来偏移hyperplane,来抵消不平衡数据造成的hyperplane的偏移。

最后一大类没有看过相关paper,不了解。。




  

相关话题

  是不是机器学习的框架都偏向 Python ?如果是,为什么? 
  如何正确理解小概率事件,以及概率和哲学的关系? 
  机器学习里面的流形都是怎么用的? 
  如何评价亚马逊AI新开源自动机器学习项目AutoGluon? 
  如何看待在某度搜不到megengine官网? 
  大数据专业本科在读想做量化交易,职业生涯应该如何规划? 
  对于多指标评价,BP神经网络评价和TOPSIS有什么区别呢? 
  如何理解压缩感知(compressive sensing)? 
  为什么 Netflix 可以用大数据做出成功的电影、电视剧? 
  国内外有哪些做小样本学习(Few-Shot Learning)的优秀团队? 

前一个讨论
为什么金庸、梁羽生、古龙之后再无武侠小说作家了呢?
下一个讨论
既然蛋蛋(睾丸)对动物的繁殖至关重要,为了降温直接吊在体外可以理解,但为什么不进化出有保护作用的蛋壳?





© 2024-11-24 - tinynew.org. All Rights Reserved.
© 2024-11-24 - tinynew.org. 保留所有权利