神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
如何评价 DeepMind 在北京时间 19 年 1 月 25 日 2 点的《星际争霸 2》项目演示？人工智能已在哪些领域超越了人类的表现？
国内外有哪些做小样本学习(Few-Shot Learning)的优秀团队？
如何评价「神经网络本质不过是初中生都会的复合函数」？
ICML 2018 有哪些值得关注的亮点?
因果推断（causal inference）是回归（regression）问题的一种特例吗？
如何看待Geoffrey Hinton的言论，深度学习要另起炉灶，彻底抛弃反向传播？
如何看待学霸君的高考机器人 Aidam 高考全国文科数学卷考了 134 分？
为什么C4.5决策树能处理连续特征，ID3树不能处理连续特征？
如何理解深度学习中的deconvolution networks？
相关的话题
如何评价剑桥，腾讯， DeepMind以及港大团队新作 SimCTG ?scikit-learn, tensorflow, pytorch真的只需要查下API，不需要学吗?
什么是博弈机器学习？
如何看待SQuAD比赛中，阿里、MSRA机器阅读理解准确率超越人类？
为什么C4.5决策树能处理连续特征，ID3树不能处理连续特征？
到了 2022 年，人工智能有哪些真正可落地的应用？
机器学习最好的课程是什么？
目前手势识别发展到什么水平了？
能识别情绪的机器人可以算做有情感的机器人吗？
机器学习中的优化理论，需要学习哪些资料才能看懂？
为什么谈论深度学习工具时，很少有人讨论matlab的神经网络工具包？
使用pytorch时，训练集数据太多达到上千万张，Dataloader加载很慢怎么办?
算法岗位真的需要顶会才能入场吗？
人工智能 CV 岗位是不是现在供严重大于需？
如何评价 DeepMind 在北京时间 19 年 1 月 25 日 2 点的《星际争霸 2》项目演示？
机器学习，深度神经网络等方法是否是正确的方向？
如何评价 Kaiming 团队新作 Masked Autoencoders (MAE)？
如何看待NIPS2017图灵奖得主贝叶斯网络之父Judea Pearl讲座无人问津？
使用强化学习解决实际问题时常常避不开环境模拟或者使用离线强化学习算法，两者分别有什么优缺点？
如何看待与评价 AAAI 2022 的录用结果？
如何看待SQuAD比赛中，阿里、MSRA机器阅读理解准确率超越人类？
Python中 __init__的通俗解释是什么？
为什么最近几年 FPGA 变得越发受大家重视了？
机器学习小白来提问：关于联邦学习FedAVG和FedSGD的问题？
深度学习领域有哪些瓶颈？
要研究深度学习的可解释性（Interpretability），应从哪几个方面着手？
如何看待人工智能领域的很多专家认为「人工智能将对人类存亡造成威胁」的观点？
如何正确理解小概率事件，以及概率和哲学的关系？
为什么 Non-Convex Optimization 受到了越来越大的关注？
特征工程中的「归一化」有什么作用？