神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
数据挖掘、机器学习、自然语言处理这三者是什么关系？这几个怎么入门啊？在算力充沛，深度学习模型大行其道的今天，传统机器学习的未来在哪里？
如何评价中国人民大学高瓴人工智能学院教授的薪酬标准？
神经网络的万能逼近定理已经发展到什么地步了？
为何感觉“知识蒸馏”这几年没有什么成果？
计量经济学是不是过时了？
为什么计算机科学中的神经网络模型得出来的结果被认为是科学的，而中医诊断却不被认为是科学的？
能否用具体的例子解释一下 (Model-based) Structural Estimation？
深度学习中Attention与全连接层的区别何在？
AI在网络安全领域（尤其是威胁检测领域），有什么好的应用场景？
相关的话题
如何看待 Alex Smola 加入 Amazon？全连接层的作用是什么？
如果有一天人类被AI取代，他们将以什么样的方式生活，娱乐，工作？
为什么说深度学习没有理论基础?
求通俗解释下bandit老虎机到底是个什么东西？
为什么学习深度学习感觉无法入门？
请解释下variational inference？
看完麻省理工博士胡渊鸣用代码实现「冰雪奇缘」后，自己陷入了深深的自卑，如何排解这种情绪？
如何理解空洞卷积（dilated convolution）？
为啥gan里面几乎不用pooling？
深度学习（机器学习）的下一步如何发展？
对于技术岗位而言，开发岗累还是算法岗累呢？
什么是无监督学习？
BERT模型可以使用无监督的方法做文本相似度任务吗？
神经网络模型压缩好就业吗?
为什么说深度学习没有理论基础?
为什么ViT里的image patch要设计成不重叠？
为什么在R语言里多用<-而不是=表示赋值？
神经网络中的能量函数是如何定义的？
有什么算法能对一个长短不一的时间序列进行分类预测?
在哪里能找到各行业的分析研究报告？
如何简单形象又有趣地讲解神经网络是什么？
什么是博弈机器学习？
如何看待swin transformer成为ICCV2021的 best paper？
人脑有海量的神经元（参数），那么人脑有没有「过拟合」行为？
如何评价第一局比赛 AlphaGo 战胜李世石？
2021年了，机器学习有什么高质量的专著?
人工智能、模式识别领域最终是否会被一种本质、通用的算法主导？
机器学习中的优化理论，需要学习哪些资料才能看懂？
如何评价谷歌刚推出的Cloud AutoML？