最优化理论与方法复习（3）---使用导数的最优化方法

2023-12-27 08:03:59

文章目录

1. 最速下降法

1.1 概念说明

在这里插入图片描述

在这里插入图片描述

1.2 解题步骤

在这里插入图片描述

1.3 例题

在这里插入图片描述

在这里插入图片描述

2. 牛顿法

2.1 解题步骤

在这里插入图片描述

在这里插入图片描述

2.2 例题

在这里插入图片描述

2.3 二次终止性

在这里插入图片描述

在这里插入图片描述

3. 阻尼牛顿法

3.1 基本思想

在这里插入图片描述

3.2 解题步骤

在这里插入图片描述

3.3 例题

在这里插入图片描述

在这里插入图片描述

4. 共轭梯度法

4.1 概念说明

在这里插入图片描述

在这里插入图片描述

?注：上面这个例子中， x ( 1 ) x^{(1)} x(1)和 y ( 1 ) y^{(1)} y(1)共轭， x ( 2 ) x^{(2)} x(2)和 y ( 2 ) y^{(2)} y(2)不共轭， x ( 3 ) x^{(3)} x(3)和 y ( 3 ) y^{(3)} y(3)共轭。

4.2 几何意义

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

4.3 二次凸函数解题步骤

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

4.4 求λ一个说明

?对于二次凸函数，虽然求 λ λ λ 有公式，但是我们依然可以用关于 λ λ λ 的函数求导等于 0 0 0 来求解最优步长 λ λ λ。

在这里插入图片描述

文章来源:https://blog.csdn.net/m0_62881487/article/details/135113061
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。