神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
如何评价Hinton组的新工作SimCLR?计算机视觉（cv）方向今年招聘情况怎么样?是否已经人才过剩?
现代人工神经网络是不是一个死胡同？这个技术是不是骗人的？
计算机技术的进步与模拟运算，在未来真的可以解决磁约束核聚变技术中所有关键问题吗？
有什么算法能对一个长短不一的时间序列进行分类预测?
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
在统计学领域有哪些经典奠基性的论文？
如何评价 Self-Normalizing Neural Networks 这篇论文?
为什么梯度下降能找到最小值？
DL/ML 模型如何部署到生产环境中？
相关的话题
三门问题(蒙提霍尔悖论)变种，如果主持人不知道哪个门是汽车随便蒙门打开正好是羊这时观众还需要换门吗？K-means聚类算法中的K如何确定？
GAN的生成器是怎么产生图片的？
为什么CV能做到让一幅人脸图动了笑了，而NLP的text-style-transfer进展貌似一般？
大四年级，完全没接触过高数，目前对机器学习产生浓厚兴趣，该如何学习数学？
主动学习（Active Learning）近几年的研究有哪些进展，现在有哪些代表性成果？
怎么在家学习一些关于机器学习的知识?
只有正样本和未标签数据的机器学习怎么做？
如何用最简单的语言统一描述多元函数求导（对向量求导、对矩阵求导等）？
神经网络中如果一个重要特征C等于特征A+特征B（算数意义上的相加），选特征的时候还有必要选特征C吗?
为什么都说神经网络是个黑箱？
人工智能在生活中的应用都有哪些？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
机器学习中的 Bias（偏差）、Error（误差）、Variance（方差）有什么区别和联系？
如果人工智能迎来下一个寒冬，你认为会是卡在什么问题上？
目前手势识别发展到什么水平了？
神经网络中的能量函数是如何定义的？
广告算法工程师的核心竞争力是什么？
如何评价阿里巴巴启动NASA计划？
什么是大模型？超大模型？Foundation Model？
据说机器学习长于预测，计量经济学长于解释。有什么具体例子是机器学习完成了很好的预测却在解释上表现不好？
如何全面理解工程师红利？
什么叫做泛函空间的大数定律？
从应用的角度来看，深度学习怎样快速入门？
既然使用神经网络也可以解决分类问题，那SVM、决策树这些算法还有什么意义呢？
如何用最简单的语言统一描述多元函数求导（对向量求导、对矩阵求导等）？
如何看待MXNet获得amazon官方支持首位？
Evidential deep learning里一般怎么估计多标签分类的Uncertainty？
计算统计学（Computational Statistics）有什么好的资源和教材以及学习方法推荐？
AI领域的灌水之风如何破局？