博客
关于我
中科大-凸优化 笔记(lec47)-最速下降法
阅读量:318 次
发布时间:2019-03-04

本文共 520 字,大约阅读时间需要 1 分钟。

全部笔记的汇总贴(视频也有传送门):

一、梯度下降法

d k + 1 = − ∇ f ( x k ) f ( x k + 1 ) − P ∗ f ( x k ) − P ∗ ≤ 1 − m M ≤ 1 − min ⁡ { 2 m γ α m a x , 2 m γ β M } K ∼ log ⁡ ( f ( x k ) − P ∗ )            线 性 收 敛 d^{k+1}=-\nabla f(x^k)\\\frac{f(x^{k+1})-P^*}{f(x^k)-P^*}\le1-\frac mM\le1-\min\{2m\gamma\alpha_{max},\frac{2m\gamma\beta}M\}\\ K\sim \log(f(x^k)-P^*)\;\;\;\;\;线性收敛 dk+1=f(xk)f(xk)Pf(xk+1)P1Mm1min{

2mγαmax,M2mγβ}Klog(f(xk)P)线

二、最速(陡)下降法

在这里插入图片描述

三、Gradient与Steepest Gradient的变种

1)坐标轮换法

在这里插入图片描述

2)若 f ( x ) f(x) f(x)在某些点不可微

在这里插入图片描述

例:

在这里插入图片描述

下一章传送门:

转载地址:http://aepq.baihongyu.com/

你可能感兴趣的文章
(215:断言失败)函数‘;DFT‘中的type==CV_32FC1||type==CV_32FC2||type==CV_64FC1||type==CV_64FC2;
查看>>
(AS3)BitmapData.draw比BitmapData.copyPixel能做得更多
查看>>
(discord.py) 有没有办法让 on_message 事件查看嵌入式消息而不是普通消息?
查看>>
064:vue+openlayers根据坐标来显示点、线段、圆形、多边形
查看>>
(ios实战)单个ViewControl适配不同ios版本xib文件实现
查看>>
(Leetcode-字符串-2) 字符串运算
查看>>
(type interface {}) to type string
查看>>
(zhuan) Evolution Strategies as a Scalable Alternative to Reinforcement Learning
查看>>
(五)java多线程之Lock类
查看>>
(十一) 构建dubbo分布式平台-dubbo简介
查看>>
(十一)JAVA springboot ssm b2b2c多用户商城系统 - SSO单点登录之OAuth2.0登录流程(2)
查看>>
asp.net MVC 强类型视图表单Ajax提交的注意事项
查看>>
Asp.Net MVC 必备插件MVC Route Visualizer(Visual Studio 2012 版)
查看>>
Bailey Button Botas Ugg Baratas Corto Botas 5803 Casta?a Holgura Outlet GUANGXI SEDA ESTANCIA CALLB
查看>>
canvas设置文字阴影
查看>>
Centos 5.2+mysql-5.0.51a+httpd-2.2.8+PHP5.2.5(运行脚本)
查看>>
Centos 5.3 ADSL拨号组建中小型企业网络
查看>>
Centos 5.8 安装后不能使用ifconfig
查看>>
Centos 6 & 7 LVM 逻辑盘卷管理
查看>>
CentOS 6 时间,时区,设置修改及时间同步
查看>>