究竟什么是损失函数 loss function? 第1页
1
david-kz 网友的相关建议:
损失函数不是一个严格的定义，或者你可以说，它和目标函数类似，就是一个用于极小化的函数。
目标函数是优化领域的叫法，不论是机器学习、传统优化、最优控制，只要问题可以写成min或者max开头的都是优化问题，那个极小化的函数就是目标函数。
损失函数在统计学习领域用的比较多，但是也只是一个用于最小化的函数，其结构并没有特别的形式，想怎么设计怎么设计。只要能让这个函数满足如下两点：
- 函数可以表达整个系统的所有合法状态；
- 函数可以衡量系统的某一指标，使得其最小值是人们对系统的期望状态。
和算法也没有关系，只是神经网络领域多用梯度下降、反向传播，但是叫什么函数和算法无关。
由于存在大量学科交叉，比如搞优化的去做神经网络，搞统计的来做传统优化等等，所以术语abuse的情形非常常见，目标函数-损失函数这个只是其中之一。由于优化问题框架广泛见于各种领域，尤其是工科领域，每个领域往往都会有自己对各个术语的叫法，弄清楚指的是什么即可，不用太纠结于细节定义。
1
相关话题
在未来，人造子宫＋社会化抚养能否真正实现？资本不依附于人的时候会发生什么？
机器学习能否用于综合评价？具体怎么操作？
2021 年，深度学习方面取得了哪些关键性进展？
在开区间上无界的连续函数一定不一致连续吗？
人工智能要有自主意识有创造力，才能全面超越人类，这个时候人工智能才可怕，这话对吗？
如何看待「机器学习不需要数学，很多算法封装好了，调个包就行」这种说法？
attention跟一维卷积的区别是啥？
深度学习做股票预测靠谱吗？
你能否在不传递指针的情况下通过函数交换两个变量的值，如果可以请说明方法，如果不行请分析原因。?计算机？
下一个讨论
数据库的冗余度是不是越小越好？
相关的话题
如何评价ST-GCN动作识别算法？如何看待媒体报道称「Facebook将关闭人工智能系统：因AI已经发明语言」？
大家对人工智能医疗怎么看？人工智能医疗应该着重往那个方向发展比较好？
未来作曲编曲会因为AI智能编曲的壮大而彻底失业吗?
如何看待「普通医生迟早被计算机替代」的观点？
为什么学习深度学习感觉无法入门？
机器学习中使用正则化来防止过拟合是什么原理？
如何评价DALL-E模型的实现？
如何评价周志华在微博对 AlphaGo 和机器学习技术的评论？
如何评价 BERT 模型？
是否存在无理点不连续、有理点连续的函数？
在元宇宙世界中，我要怎么证明「我是我」？
如何证明数据增强（Data Augmentation）有效性？
如何评价第10期UEC杯世界电脑围棋赛绝艺夺冠？
有什么算法能对一个长短不一的时间序列进行分类预测?
如何看待多模态transformer，是否会成为多模态领域的主流？
未来作曲编曲会因为AI智能编曲的壮大而彻底失业吗?
Graph Attention Network的本质是什么？
本科数学，目前在读计算机研一，毕业的时候想要应聘数据挖掘工程师，看了对数据挖掘工程师的招聘要求，感觉太宽泛了，希望能具体说一下现在应该准备哪些知识（算法？编程语言？其他？），谢谢！
KL散度衡量的是两个概率分布的距离吗？
KL散度衡量的是两个概率分布的距离吗？
人工智能时代，孩子需要培养哪些超越机器人的能力？
如何评价余凯在朋友圈发表呼吁大家用 caffe、mxnet 等框架，避免使用 TensorFlow？
如何看待 2021 年图灵奖授予美国计算机科学家 Jack J. Dongarra?
如何看待8月18日召开的百度世界大会2021？有哪些亮点？
如何用一句话证明自然语言处理很难？
resnet（残差网络）的F（x）究竟长什么样子？
为何人类天真地认为人工智能永远服务于人类、不相信AI叛变？
如今AI日渐发展的时代，律师、法务如何生存，如何成为不被AI替代的法律人？
神经网络，人工智能这块怎么入门？