究竟什么是损失函数 loss function? 第1页
1
david-kz 网友的相关建议:
损失函数不是一个严格的定义，或者你可以说，它和目标函数类似，就是一个用于极小化的函数。
目标函数是优化领域的叫法，不论是机器学习、传统优化、最优控制，只要问题可以写成min或者max开头的都是优化问题，那个极小化的函数就是目标函数。
损失函数在统计学习领域用的比较多，但是也只是一个用于最小化的函数，其结构并没有特别的形式，想怎么设计怎么设计。只要能让这个函数满足如下两点：
- 函数可以表达整个系统的所有合法状态；
- 函数可以衡量系统的某一指标，使得其最小值是人们对系统的期望状态。
和算法也没有关系，只是神经网络领域多用梯度下降、反向传播，但是叫什么函数和算法无关。
由于存在大量学科交叉，比如搞优化的去做神经网络，搞统计的来做传统优化等等，所以术语abuse的情形非常常见，目标函数-损失函数这个只是其中之一。由于优化问题框架广泛见于各种领域，尤其是工科领域，每个领域往往都会有自己对各个术语的叫法，弄清楚指的是什么即可，不用太纠结于细节定义。
1
相关话题
正态分布函数的原函数怎样求？深度学习应用在哪些领域让你觉得「我去，这也能行！」？
为什么 AI 理解不了逻辑问题？
如何评价DeepMind新提出的MuZero算法？
transformer中的Q,K,V到底是什么？
有哪些相见恨晚的家居好物推荐？
当前（2020年）机器学习中有哪些研究方向特别的坑？
AMD 开源高性能机器智能库MIopen是否可以和cuDNN抗衡？
实体提取任务中使用BERT-CRF时，CRF根据数据统计可以得到转移概率，为啥还要训练呢？
没有顶会的CV/NLP方向的博士生毕业出路在哪里？
下一个讨论
数据库的冗余度是不是越小越好？
相关的话题
IJCAI/AAAI 的真实水平到底如何？USC 大学教授、Pinscreen CEO Hao Li 是否存在论文造假、产品虚假宣传等问题？
如何看待刘慈欣「未来人类必须改变不劳动者不得食的观念」的观点？
如果美国用人工智能治国，我国还有还手之力吗？
心理咨询师会被人工智能取代吗？
视觉Transformer如何优雅地避开位置编码？
CNN（卷积神经网络）、RNN（循环神经网络）、DNN（深度神经网络）的内部网络结构有什么区别？
如何看待End-to-End Object Detection with Transformers？
有监督和无监督学习都各有哪些有名的算法和深度学习？
什么是大模型？超大模型？Foundation Model？
神经网络，人工智能这块怎么入门？
为什么 AI 发展到今天，围棋能下过李世石、柯洁，仍不能完成帮人类洗衣物、做饭这种简单的事？
身为消费者，你对汽车人工智能有什么期待？
如何看待 Nervana 被 Intel 收购？
中国和美国谁能成人工智能领域的领军者？
工业机器人普及之后会对社会产生什么影响？
视觉算法的工业部署及落地方面的技术知识，怎么学？
波士顿动力最新战争机器人，对各国军事平衡产生怎样影响？
马斯克的星链计划会对 5G 产生重大威胁吗？
如何评价深度学习相关顶级期刊论文难复现的问题？
机器学习中有哪些形式简单却很巧妙的idea？
积分，多重对数函数积分？
AlphaGo 战胜了李世石，人工智能突破了围棋领域，这意味着什么？
想做机器人，有什么好的发展方向？
2021 年各家大厂的 AI Lab 现状如何？
哥哥贷款炒股亏了70万，父母都是农民，为此我大一辍学，有什么办法能挽救我们家？
如何看待“原谅宝”和推特上的“ChinaWakeUp”事件？
如何评价 MSRA 最新的 Deformable Convolutional Networks？
如何评价支付宝在IEEE成功立项“生物特征识别多模态融合”国际标准？有什么长远意义？
这道函数问题怎么解决？