神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
Kaggle如何入门？目前有哪些比较成功的人工智能应用？
GAN 真的创造了新的信息吗？
有哪些看了让你醍醐灌顶的书籍、论文、期刊，使你对如何做数据挖掘、特征工程、统计挖掘有了眉目？
现在的BERT等语言模型，最快训练要多久？
GAN生成的数据没有标签怎么用来训练分类模型？
为什么在SGD中使用L1正则化很难获得稀疏性？
能分享你收藏的国外AI talk, seminar平台或网站吗？
人工智能技术会不会最终赶上微积分的历史地位？
如何看待Kaggle最新比赛Zillow禁止中国居民参加第二轮？
相关的话题
如何评价Kaiming He团队的MoCo v3？语义网所谓的“本体”的具体例子是什么？
各种机器学习算法的应用场景分别是什么（比如朴素贝叶斯、决策树、K 近邻、SVM、逻辑回归最大熵模型）？
AI领域的灌水之风如何破局？
想问下专业人士 OpenCv会被深度学习进一步取代吗进一步取代吗？
实验室一块GPU都没有怎么做深度学习？
基于深度卷积神经网络进行人脸识别的原理是什么？
transformer 为什么使用 layer normalization，而不是其他的归一化方法？
如何评价各种关联因素分析算法,尤其是在算法效果对比方面?
深度学习与机器学习的关系是什么？
默写很花时间怎么办？
为什么dropout正则化经常在视觉方面使用而不是其他？
语义网所谓的“本体”的具体例子是什么？
为什么softmax很少会出现[0.5，0.5]？
在算力充沛，深度学习模型大行其道的今天，传统机器学习的未来在哪里？
在NLP当中，不同的评价指标，BLEU, METEOR, ROUGE和CIDEr的逻辑意义？
人工「神经网络」技术在信息处理上有何特点，工作原理是什么？
为啥gan里面几乎不用pooling？
在中文 NLP 等论文中，应该如何翻译 token 这个词？
老师给了一个神经网络的程序，他之前是跑通了的，但是我迭代几十次或者一百多次就报错。这个怎么解决?
三位物理学家与陶哲轩发现的特征向量全新求解公式，会给机器学习领域带来怎样的变化？
2017年1月18日Facebook发行的PyTorch相比TensorFlow、MXNet有何优势？
如何将某个分布作为机器学习的特征？
吴恩达为什么离开谷歌？
从人脑角度来说为什么人画画会越来越准（形准）？
在数据分析、挖掘方面，有哪些好书值得推荐？
如何评价微软亚洲研究院提出的LightRNN？
为什么nlp没有像cv四小龙一样的创业公司？
基于大数据的个人信用体系有没有可能被滥用？
行为识别常用哪种特征提取？