究竟什么是损失函数 loss function? 第1页
1
david-kz 网友的相关建议:
损失函数不是一个严格的定义，或者你可以说，它和目标函数类似，就是一个用于极小化的函数。
目标函数是优化领域的叫法，不论是机器学习、传统优化、最优控制，只要问题可以写成min或者max开头的都是优化问题，那个极小化的函数就是目标函数。
损失函数在统计学习领域用的比较多，但是也只是一个用于最小化的函数，其结构并没有特别的形式，想怎么设计怎么设计。只要能让这个函数满足如下两点：
- 函数可以表达整个系统的所有合法状态；
- 函数可以衡量系统的某一指标，使得其最小值是人们对系统的期望状态。
和算法也没有关系，只是神经网络领域多用梯度下降、反向传播，但是叫什么函数和算法无关。
由于存在大量学科交叉，比如搞优化的去做神经网络，搞统计的来做传统优化等等，所以术语abuse的情形非常常见，目标函数-损失函数这个只是其中之一。由于优化问题框架广泛见于各种领域，尤其是工科领域，每个领域往往都会有自己对各个术语的叫法，弄清楚指的是什么即可，不用太纠结于细节定义。
1
相关话题
如何评价DeepMind新提出的MuZero算法？哪些人工智能领域已经或者未来1-2年会实现盈利？
有尝试用多层自组织特征神经网络（MLSOM）来代替层次分析法（AHP）的吗？会有哪些问题需要注意？
scikit-learn, tensorflow, pytorch真的只需要查下API，不需要学吗?
2021年，作为算法工程师的你们会在CV业务落地上用Transformer吗？
如何看待 TI7 上与 Dendi solo 的 OpenAI？
你见过的最丑的函数曲线图形是什么？
x^y＝y^x，(x＜y)如果用大学知识如何解？
如何看待全球第一位「数字航天员小诤」?数字技术跨界应用是否正在加快？
对于神经网络，硕士博士不需要弄明白原理，只需要应用，是这样吗？
下一个讨论
数据库的冗余度是不是越小越好？
相关的话题
如何评价朱广权battle AI手语主播？AI能否取代手语翻译，造福更多聋哑人？现在什么职业最容易被人工智能取代？
AlphaGo 与李世石的对战会推动人类的极限还是机器学习的进步和觉醒？
目前网络或单机游戏中的 AI 能达到怎样的水平，未来的发展前景如何？
如何看待特斯拉新演示的完全自动驾驶系统（FSD beta），会不会像苹果一样一举确立行业统治地位？
如果智能机器人真的大批量取代人工，那真的会失业么？
如何评价mixup: BEYOND EMPIRICAL RISK MINIMIZATION？
对自己深度学习方向的论文有idea，可是工程实践能力跟不上，实验搞不定怎么办？
未来强人工智能会是人类意识的继承者么？
医学生学习机器学习该如何入门？
机器学习为生物学和医学研究带来了哪些改变？能解决哪些医学难题？
有谁照着论文把 AlphaGo 重现出来了？
能否使用区块链的算力来解决深度学习训练？
IBM 重返消费级市场有哪些机会？
怎样实现强人工智能?
CVPR2022 有什么值得关注的论文 ?
要装修房子，有什么好用的智能设备推荐吗？
为什么中文 NLP 数据集这么少？
我们难道必须发展人工智能吗？
自然语言处理怎么最快入门？
如何评价deepmind最新在nature上发表的论文《在人工网络中用网格样表征进行基于向量的导航》？
视觉算法的工业部署及落地方面的技术知识，怎么学？
人工智能可以解决人类难题吗？
相比于时下流行的机器学习方法（联接主义），传统的人工智能方法（符号主义）有什么独一无二的优势？
如何看待NVIDIA 即将开源的DLA？
为什么计算注意力机制的时候不加偏置项？
请问数学的函数和编程语言的函数有什么区别呢？
如何看待语音合成等 AI 算法、无人机等被列入限制出口技术目录？
Auto X的自动驾驶技术用了什么技术？
如何评价 DeepMind 于2016年9月12日公开的 AlphaGo 自战棋谱及3月人机大战解说？