请问有哪些最优化算法可以做全局优化？ 第1页
1
martin-tan-59 网友的相关建议:
如果不对问题结构做任何假设的话，没有任何方法可以做全局最优化，模拟退火也不能。
如果不假设结构，函数可以长成任意样子，除非能穷举遍历所有局部最小值点，否则根据局部信息是根本无法判断全局最优解在哪个方向。Nesterov甚至证明过，在一般的非凸不可导的函数优化中，在一个给定的点找一个局部下降方向都可能是NP-hard的（相对问题的维度），更别说找局部最小值甚至全局最优解。
一般来说，要保证找到全局最有值，我们需要假设函数是凸的。当然凸只是一个充分条件，并不是必要的，有很多非凸的问题也能保证优化算法收敛到全局最优（比如matrix completion问题就被证明了所有局部最优点都有相同的函数值，所以也都是全局最优点），但这个能不能保证还得看具体问题。
1
相关话题
世界上有哪些代码量很少，但很牛逼很经典的算法或项目案例？如何统计拓扑排序的个数？
C++笔试算法题允许用stl函数吗？
怎么证明每个位上的数字之和可以被3整除的数可以被3整除？
程序员应该如何学习算法？
平滑的战争迷雾效果是如何实现的？
此函数式如何求最小值？
刚进算法团队，大牛们讨论高深的 cv 术语和算法，如何才能听懂？
天天P图中我的小学生证件照功能怎么实现的？算法是什么样？
怎样实现浮点数除以一个数再乘以这个数结果等于原值?
下一个讨论
（有些）信佛的人为什么可以认同中医？
相关的话题
要是往马斯克嵌在猪脑袋里面的芯片里写进去“猪的生命也是命”。猪会不会不让人类吃他们的肉了呢？ ?在校生为了面试，有必要强行记住一些复杂算法如红黑树、KMP等的实现吗？
什么是递归？
N 个乒乓球中有一个和其他的质量不同，用天平最少几次一定能称出来？
为什么在数学中，一些运算的逆运算比原运算难很多？
最快的 atoi、atof 实现是什么样的？
开发人员如何构建自己的学习笔记系统？
有什么在线的编程游戏？
我发现设计模式一个很奇妙的情况，不知各位知友遇过没？
你见过最差的算法工程师能差到什么程度？
为什么VAE-GAN的训练很容易发生梯度爆炸，如何避免？
如何看待两次 IOI 金牌，一次 ACM 全球总决赛亚军的清华大学计算机系毕业生去高中当信息学教师？
请问有哪些最优化算法可以做全局优化？
如何分配砝码使天平尽可能平衡？
机器学习中的优化理论，需要学习哪些资料才能看懂？
Auto X的自动驾驶技术用了什么技术？
为什么 Non-Convex Optimization 受到了越来越大的关注？
计科和软工的区别？报哪个专业好些？
有哪些算法惊艳到了你？
机器学习小白来提问：关于联邦学习FedAVG和FedSGD的问题？
如何计算一局三国杀所进行的回合数的数学期望？
人工智能领域有哪些精妙的数学原理？
次世代主机机能那么高，以后游戏的开发成本怎么办？
为什么 Google 翻译只重算法不重语言学的语法结构和规则？
PRML为何是机器学习的经典书籍中的经典？
作为学数学的人，你有哪些用于「双十一」购物的方法？
你在生活中用过最高端的数学知识是什么？
你们初刷leetcode时会怀疑自己的智商吗？
Algorithmic Game Theory 和经济学中的 Game Theory 相似度大吗？
如何看待「原谅宝」？