神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
什么是无监督学习？深度学习方面还有什么Open Problem?
为什么做stacking之后，准确率反而降低了？
为何以范剑青老师的 Sure Independence Screening 为代表的筛选法没有流行呢？
现代人工神经网络是不是一个死胡同？这个技术是不是骗人的？
广告算法工程师的核心竞争力是什么？
为什么交叉熵（cross-entropy）可以用于计算代价？
对神经网络某一层做了小改进，效果却提升显著，可以发论文吗？
如何简单理解贝叶斯决策理论（Bayes Decision Theory）？
机器学习包含哪些学习思想？
相关的话题
迁移学习入门，新手该如何下手？人工智能和自动控制能在一起擦出什么样的火花？
你所在的研究领域里，有哪些工作的结果虽然不是造假，但是是精挑细选出来的?
全连接层的作用是什么？
你见过最差的算法工程师能差到什么程度？
如何评价 UCLA 朱松纯教授近日访谈中对深度学习的批评？
编写基于机器学习的程序，有哪些编写和调试的经验和窍门？
是不是并不是所有问题都适合用神经网络预测？
编写基于机器学习的程序，有哪些编写和调试的经验和窍门？
对神经网络某一层做了小改进，效果却提升显著，可以发论文吗？
如何评价 2018 年度图灵奖颁发给三位深度学习之父？
如果 2台 alphago 不断对战，是否会不断的强大？
有哪些你看了以后大呼过瘾的数据分析书？
国内目前的量化交易是否很少涉及到机器学习？
机器学习的理论方向 PhD 是否真的会接触那么多现代数学（黎曼几何、代数拓扑之类）？
为什么学习深度学习感觉无法入门？
在机器学习模型的训练期间，大概几十分钟到几小时不等，大家都会在等实验的时候做什么？
为什么现在的CNN模型都是在GoogleNet、VGGNet或者AlexNet上调整的？
怎样从机器学习模型中获取知识？
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
如何理解深度学习源码里经常出现的logits？
现在的人工智能是否走上了数学的极端？
人工智能领域有哪些精妙的数学原理？
在中小学阶段设置人工智能相关课程对于培养人工智能人才具有哪些意义？如何推进会比较有效？
985工科研一觉得快要退学了怎么办？
如何评价各种关联因素分析算法,尤其是在算法效果对比方面?
编写基于机器学习的程序，有哪些编写和调试的经验和窍门？
如何用机器学习判断《溪岸图》是否董源真迹？
如何看待上海交大研发人工智能：通过脸部识别技术辨别罪犯？
pytorch 的高层库ignite怎么样？