百科问答小站 logo
百科问答小站 font logo



请问有哪些最优化算法可以做全局优化? 第1页

  

user avatar   martin-tan-59 网友的相关建议: 
      

如果不对问题结构做任何假设的话,没有任何方法可以做全局最优化,模拟退火也不能。

如果不假设结构,函数可以长成任意样子,除非能穷举遍历所有局部最小值点,否则根据局部信息是根本无法判断全局最优解在哪个方向。Nesterov甚至证明过,在一般的非凸不可导的函数优化中,在一个给定的点找一个局部下降方向都可能是NP-hard的(相对问题的维度),更别说找局部最小值甚至全局最优解。

一般来说,要保证找到全局最有值,我们需要假设函数是凸的。当然凸只是一个充分条件,并不是必要的,有很多非凸的问题也能保证优化算法收敛到全局最优(比如matrix completion问题就被证明了所有局部最优点都有相同的函数值,所以也都是全局最优点),但这个能不能保证还得看具体问题。




  

相关话题

  构建进化树的意义是什么?除了看亲缘关系之外。 
  机器学习中使用正则化来防止过拟合是什么原理? 
  如何正确地用 Test Driven Development 实现算法? 
  备战ACM,想问下有什么算法网课推荐吗? 
  算法源于大数据,而大数据源于我们每一个人,那我们是不是应该拥有主导数据的权利? 
  算法A时间复杂度O(n²),算法B时间复杂度为O(n³),为什么选择算法B而不选算法A的6个理由? 
  失传的缀数法最有可能是什么方法? 
  有一个三位数密码锁,如果输入的三位密码有1位是正确的,就会嘀一声响,请问最少要输入几次才一定能开锁? 
  谷歌翻译这几个月的进化速度突然加快是什么原因? 
  程序员不需要知道太多数学,你认同吗? 

前一个讨论
有多少颗恒星的超新星爆炸对地球温度影响会比太阳强?
下一个讨论
(有些)信佛的人为什么可以认同中医?





© 2025-02-22 - tinynew.org. All Rights Reserved.
© 2025-02-22 - tinynew.org. 保留所有权利