神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
神经网络训练多个epoch，写论文的时候可以取最好的效果那一个epoch作为结果吗？人们是如何想到奇异值分解的？
人工智能在发展到极高的程度之后能否算得上是一种生命？
请问人工神经网络中的activation function的作用具体是什么？为什么ReLu要好过于tanh和sigmoid function?
学习机器学习应该看哪些书籍？
如何证明数据增强（Data Augmentation）有效性？
为什么自动控制理论这么玄学？
如何评价中科大实现了媲美人脑能效的类脑突触原型器件？
PyTorch中在反向传播前为什么要手动将梯度清零？
未来20年，新技术将从哪些方面改变人的消费方式？
相关的话题
在集成电路设计领域（数字，模拟），人工智能有无可能取代人类？如何看待多所 985 大学开设人工智能专业？
请问人工神经网络中的activation function的作用具体是什么？为什么ReLu要好过于tanh和sigmoid function?
人工智能被高估了吗？
adversarial training为什么会起作用？
NLP领域，你推荐哪些综述性的文章？
有没有可能运用人工神经网络将一种编程语言的代码翻译成任意的另一种编程语言，而不经过人工设计的编译过程？
人工智能就业前景越来越严峻了，你还在坚持吗？
南京大学LAMDA（周志华）组的实力如何？
如何看待李国杰院士在科学网发文称，国内 AI 研究「顶不了天、落不了地」，该想想了？
神经元之间的连接方式是怎样的，感觉如果按树突到轴突方式(多冲动聚为一个冲动)的话连接只会越连越少啊？
为什么做机器学习的很少使用假设检验？
一般来说，三层神经网络可以逼近任何一个非线性函数，为什么还需要深度神经网络?
如何评价中国人民大学高瓴人工智能学院教授的薪酬标准？
mxnet的并行计算为什么这么牛，是什么原理？
计算商品embedding然后平均得到用户embedding，会不会存在这种问题？
反馈控制理论在通信、信号处理等领域有哪些应用？
为什么说股票不能通过机器学习来预测？
共轭是指 ‘先验分布与后验分布共轭“ ，还是指 "先验分布与似然函数共轭“？
请问机器学习中的预测与决策的区别是什么，他们的界限在哪里呢？
深度学习工作站中使用AMD的CPU会有问题吗？
985工科研一觉得快要退学了怎么办？
能否使用神经网络来判断奇偶数？
在你做推荐系统的过程中都遇到过什么坑？
2020到2021年小样本学习取得重大进展了吗？
二分类问题，应该选择sigmoid还是softmax？
如何理解MCMC中的细致平稳条件？
Linear least squares, Lasso,ridge regression有何本质区别？
什么是主动学习（Active Learning, AL）？
能分享你收藏的国外AI talk, seminar平台或网站吗？