神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
如何看待「机器学习不需要数学，很多算法封装好了，调个包就行」这种说法？wasserstein 距离的问题?
c4.5为什么使用信息增益比来选择特征？
统计模型和概率模型的区别是什么呢？
有哪些比较好的机器学习、数据挖掘、计算机视觉的订阅号、微博或者是论坛？
在机器学习模型的训练期间，大概几十分钟到几小时不等，大家都会在等实验的时候做什么？
Dirichlet Processes 是一个什么样的随机过程？
如何看待Capsule Network在NLP领域的潜力？
为何总感觉人工智能和神经科学（神经网络）被绑在一起？
为什么做stacking之后，准确率反而降低了？
相关的话题
Python中 __init__的通俗解释是什么？如何用一句话证明自然语言处理很难？
计算机视觉是否已经进入瓶颈期？
现在的人工智能是否走上了数学的极端？
欧洲有哪些统计机器学习比较强的大学或者研究院的？？
如何看待西安电子科技大学偷偷给贫困生打钱，大数据精准帮助贫困生是否值得推广？
为什么都说神经网络是个黑箱？
各种机器学习算法的应用场景分别是什么（比如朴素贝叶斯、决策树、K 近邻、SVM、逻辑回归最大熵模型）？
如何看待多所 985 大学开设人工智能专业？
机器学习算法工程师如何自己接项目单干、并赚取比上班多得多的收入？
主动学习(Active learning)算法的原理是什么，有哪些比较具体的应用？
为什么ViT里的image patch要设计成不重叠？
wasserstein 距离的问题?
新手如何实现个简单AutoML框架。有参考的github开源项目介绍吗？
在优化问题里，强化学习相比启发式搜索算法有什么好处？
如何评价李飞飞和李佳加盟谷歌？
现在的人工智能是否走上了数学的极端？
pytorch 的高层库ignite怎么样？
如何看待人工智能领域的很多专家认为「人工智能将对人类存亡造成威胁」的观点？
高斯过程的kernel构成的矩阵为何叫协方差矩阵而不是相关系数矩阵？
在哪里能找到各行业的分析研究报告？
迁移学习入门，新手该如何下手？
为何中国人迷恋吴恩达的机器学习课？
三维重建怎么入门？
机器学习系统MLSys中有哪些比较有前途的研究方向？
2021年了，如何评价微软亚研提出的对偶学习（Dual Learning）？
金融学及金融从业者如何应对人工智能和大数据？
看完麻省理工博士胡渊鸣用代码实现「冰雪奇缘」后，自己陷入了深深的自卑，如何排解这种情绪？
怎么形象理解embedding这个概念？
caffe开发过程中使用了哪些工具？