神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
大四年级，完全没接触过高数，目前对机器学习产生浓厚兴趣，该如何学习数学？深度学习中Attention与全连接层的区别何在？
为什么deep lab v3起，输出不再接 DenseCRF了？
能分享你收藏的国外AI talk, seminar平台或网站吗？
机器学习中的PR曲线一定会过（1，0）这个点吗？
除了深度神经网络已经实现的特性以外，大脑还有哪些特性是值得机器学习领域借鉴的？
当初的生物热，和如今的全民CS全民AI，让你想到了什么？
Python 如何画出漂亮的地图？
机器学习里的 kernel 是指什么？
计算机技术的进步与模拟运算，在未来真的可以解决磁约束核聚变技术中所有关键问题吗？
相关的话题
神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？为什么最近几年 FPGA 变得越发受大家重视了？
如何评价 DeepMind 在星际中的失利，以及 OpenAI 在 Dota 上的成功？
深度学习工作站中使用AMD的CPU会有问题吗？
adversarial training为什么会起作用？
只有正样本和未标签数据的机器学习怎么做？
为何中国人迷恋吴恩达的机器学习课？
三维重建怎么入门？
年轻人为什么要做期货？
如何看待swin transformer成为ICCV2021的 best paper？
如何理解深度学习中的deconvolution networks？
在哪里能找到各行业的分析研究报告？
人工智能、模式识别领域最终是否会被一种本质、通用的算法主导？
CNN（卷积神经网络）、RNN（循环神经网络）、DNN（深度神经网络）的内部网络结构有什么区别？
领域自适应需要用到测试集数据，这样的方法有啥意义呢？
有哪些解决完之后让你拍案叫绝的算法问题？
如何看待多模态transformer，是否会成为多模态领域的主流？
为什么现在有这么多人工智能无用论？
如何评价DeepMind新提出的MuZero算法？
机器学习中非均衡数据集的处理方法？
推荐系统应该如何保障推荐的多样性？
如何看待亚马逊的无人超市产品 Amazon Go?
吴恩达为什么离开谷歌？
金融学及金融从业者如何应对人工智能和大数据？
语义网所谓的“本体”的具体例子是什么？
怎样计算两个服从高斯分布的向量乘积的期望？
土木和机器学习/深度学习/算法的交叉岗位在哪里找呀？ 在哪找都找不到招聘公司?
有哪些关于机器学习的真相还鲜为人知？
为什么softmax很少会出现[0.5，0.5]？
2019年NeurIPS有哪些糟糕的论文？