百科问答小站 logo
百科问答小站 font logo



神经网络,分类和回归问题,在网络结构上的区别是什么?分类比回归多一层softmax吗?诚心求教? 第1页

  

user avatar   huo-hua-de-41 网友的相关建议: 
      

感觉现在已有的回答还没说到点上。例如,0-1的回归,我把0-1分成100个bin,每0.01当作一个类,然后用变成100类的分类任务,是不是就只是精度差异呢?进一步可以衍生几个问题:

  • 为什么回归任务常使用mse作为损失函数?
  • 为什么分类任务常用交叉熵作为损失函数?

首先,我们要知道,使用特定损失函数的前提是我们对标签的分布进行了某种假设

二分类问题的常见假设就是标签服从伯努利分布,多分类问题背后的假设是多项分布(Multinomial Distribution)。根据数据分布,结合最大似然估计就可以推导出交叉墒的公式。

同样的,回归问题背后的假设是标签服从正态分布,这时候根据数据分布,结合最大似然估计就可以推导出mse的公式。

然后实际问题中,我们遇到的标签不一定真的服从正态分布。根据样本分布不同,大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多,只是抛砖引玉,详细的推到大家可以看看 @马东什么 的文章




  

相关话题

  CNN(卷积神经网络)、RNN(循环神经网络)、DNN(深度神经网络)的内部网络结构有什么区别? 
  为什么相比于计算机视觉(cv),自然语言处理(nlp)领域的发展要缓慢? 
  有哪些深度学习效果不如传统方法的经典案例? 
  如何评价「神经网络本质不过是初中生都会的复合函数」? 
  如何评价Hinton在加拿大多伦多大学关于用“capsule”作为下一代CNN的演讲? 
  国内 top2 高校研一在读,为什么感觉深度学习越学越懵? 
  深度学习attention机制中的Q,K,V分别是从哪来的? 
  神经网络中,bias有什么用,为什么要设置bias,当加权和大于某值时,激活才有意义? 
  有哪些优秀的深度学习入门书籍?需要先学习机器学习吗? 
  如何看待Hinton的论文《Dynamic Routing Between Capsules》? 

前一个讨论
python中[[3,5],[2,3]]怎么转化为[['3','5'],['2','3']]?
下一个讨论
对于智力和勤奋程度都一般的人来说,博士毕业有多难?





© 2025-01-19 - tinynew.org. All Rights Reserved.
© 2025-01-19 - tinynew.org. 保留所有权利