百科问答小站 logo
百科问答小站 font logo



究竟什么是损失函数 loss function? 第1页

  

user avatar   david-kz 网友的相关建议: 
      

损失函数不是一个严格的定义,或者你可以说,它和目标函数类似,就是一个用于极小化的函数。

目标函数是优化领域的叫法,不论是机器学习、传统优化、最优控制,只要问题可以写成min或者max开头的都是优化问题,那个极小化的函数就是目标函数。

损失函数在统计学习领域用的比较多,但是也只是一个用于最小化的函数,其结构并没有特别的形式,想怎么设计怎么设计。只要能让这个函数满足如下两点:

  1. 函数可以表达整个系统的所有合法状态;
  2. 函数可以衡量系统的某一指标,使得其最小值是人们对系统的期望状态。

和算法也没有关系,只是神经网络领域多用梯度下降、反向传播,但是叫什么函数和算法无关。

由于存在大量学科交叉,比如搞优化的去做神经网络,搞统计的来做传统优化等等,所以术语abuse的情形非常常见,目标函数-损失函数这个只是其中之一。由于优化问题框架广泛见于各种领域,尤其是工科领域,每个领域往往都会有自己对各个术语的叫法,弄清楚指的是什么即可,不用太纠结于细节定义。




  

相关话题

  百度学术能否替代 Google 学术网站?有没有其他选择? 
  如果我研究出通用型人工智能并让它们去996,我可以获得福报吗? 
  如何评价李开复称「ICO 是最大的泡沫,可能导致 AI 泡沫破裂」? 
  北京深鉴科技基于FPGA平台的DPU架构如何? 
  在人工智能领域,当前中国与其他国家相比优势和不足分别在哪里? 
  让人工智能去下路边街头的象棋残局会赢吗? 
  请问下大家训练 SimCSE 时, loss 有没有这样的情况? 
  NIPS 2018 有什么值得关注的亮点? 
  CPU和GPU跑深度学习差别有多大? 
  AI论文中的novelty如何评价? 

前一个讨论
僵尸和丧尸都是以咬“人”来归类的,那如果僵尸和丧尸盛行,哪一个会站到最后?
下一个讨论
数据库的冗余度是不是越小越好?





© 2025-02-21 - tinynew.org. All Rights Reserved.
© 2025-02-21 - tinynew.org. 保留所有权利