百科问答小站 logo
百科问答小站 font logo



请问有哪些最优化算法可以做全局优化? 第1页

  

user avatar   martin-tan-59 网友的相关建议: 
      

如果不对问题结构做任何假设的话,没有任何方法可以做全局最优化,模拟退火也不能。

如果不假设结构,函数可以长成任意样子,除非能穷举遍历所有局部最小值点,否则根据局部信息是根本无法判断全局最优解在哪个方向。Nesterov甚至证明过,在一般的非凸不可导的函数优化中,在一个给定的点找一个局部下降方向都可能是NP-hard的(相对问题的维度),更别说找局部最小值甚至全局最优解。

一般来说,要保证找到全局最有值,我们需要假设函数是凸的。当然凸只是一个充分条件,并不是必要的,有很多非凸的问题也能保证优化算法收敛到全局最优(比如matrix completion问题就被证明了所有局部最优点都有相同的函数值,所以也都是全局最优点),但这个能不能保证还得看具体问题。




  

相关话题

  ICLR 2019 有什么值得关注的亮点? 
  军事级加密算法有哪些? 
  一道阿里笔试题,思路应该是怎样? 
  你遇见过什么当时很有潜力但是最终没有流行的深度学习算法? 
  从算法的角度来看,Elsagate 事件暴露出了「自动推荐」的哪些问题,该如何规避? 
  一道程序员面试题? 
  cpp是不是最方便研究算法的语言? 
  如果想大体地了解凸优化和非凸优化中比较重要的概念、理论知识和算法应该看哪些书籍或者论文? 
  std::list::sort 用了什么算法?为什么速度这么快? 
  有哪些数学定理或者数学知识惊呆了你? 

前一个讨论
有多少颗恒星的超新星爆炸对地球温度影响会比太阳强?
下一个讨论
(有些)信佛的人为什么可以认同中医?





© 2025-04-16 - tinynew.org. All Rights Reserved.
© 2025-04-16 - tinynew.org. 保留所有权利