机器人中的数值优化之L-BFGS
2023-12-28 18:32:00
欢迎大家关注我的B站:
偷吃薯片的Zheng同学的个人空间-偷吃薯片的Zheng同学个人主页-哔哩哔哩视频 (bilibili.com)
本文ppt来自深蓝学院《机器人中的数值优化》
目录
1.滑动窗口
当迭代点之间相隔很远,之前的曲率信息不是很有用,同时为了提高时间和空间复杂度,利用滑动窗口来实现每次迭代只利用m+1对
这也就是所谓limited-memory
2.算法流程
?通过右侧框图中的算法流程可以把复杂度从n方降到n,具体细节可以阅读论文
对于非凸光滑的函数,L-BFGS是最优的,很多PNC算法都会基于这个算法
对于非凸非光滑函数,L-BFGS也可以应用
3.非平滑
对于strong wolfe conditions来说,非凸函数会导致条件失败,因为非凸往往导致斜率小的地方少
对于weak wolfe conditions来说,非凸函数条件仍然有效,因为他能把正的考虑进来
4.线搜索
利用两个条件对区间进行不断更新,个人认为只要有两个条件一个趋向左,一个趋向右,就能套这个 Lewis&Overton line search 去做线搜索
想要实现应用于非凸非光滑函数的BFGS,需要在BFGS的基础上加上Lewis&Overton line search+Limited-memory+Cautious-update
文章来源:https://blog.csdn.net/weixin_65089713/article/details/135273164
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符,请联系我的编程经验分享网邮箱:veading@qq.com进行投诉反馈,一经查实,立即删除!
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符,请联系我的编程经验分享网邮箱:veading@qq.com进行投诉反馈,一经查实,立即删除!