梯度法求最小值例题
@勾爸280：梯度法求函数f<x>=<x - 2>+<x+2>的最小值 -
沈舒13956338628…… 飘过
@勾爸280：梯度法如何理解转换为求最小值就是最优解 -
沈舒13956338628…… (这里指的是模式识别中的梯度法求最小值的问题)简单地说就是,当你的类分对时会有WtX>0,你要寻找的权应该满足这个关系,而你的准则函数应该具有的性质是:准则函数有唯一的最小值,且这个最小指发生在WtX>0时.也就是说当你的准则函数取到最小值时会有WtX>0,而这不正是我们要的权吗?所以我们将求满足WtX>0的权转换成了求准则函数的最小值问题,两者在这里是等价的.
@勾爸280：方向导数求最大值和最小值 -
沈舒13956338628…… 求z的梯度,为grad=(2x-y,2y-x)将(1,1)代入得grad|(1,1)=(1,1)所以当方向导数与梯度方向相同时最大=√(x^2+y^2)=√2,方向导数与梯度方向相反时最小=-√(x^2+y^2)=-√2
@勾爸280：求最大值最小值的所有题型方法(具体举例说明) -
沈舒13956338628…… 1.y=sin2x-x,x∈[-90度,90度] 求此函数的最大值最小值 1.解:y'=2cos2x-1=0. 得x=pi/6. 得到最大值y(x=pi/6)=sqrt(3)/2-pi/6. 最小值出现在x=pi/2时,y=-pi/2. 2.动点P(x,y)在圆上x^2+(y-1)^2=1,求(y-1)/(x-2)的最大值和2x+y的最小值 2.解:利用圆的...
@勾爸280：当遇到函数极值点不是全局最优解如何使用梯度下降发求最小值 -
沈舒13956338628…… 单纯的梯度下降算法是收敛于局部最优解的,如果要求实现全局最优解的话可以考虑加入退火算法或者遗传算法之类的思想,简单说就是在搜索过程中不但有基于梯度下降的方向,同时也融入少量的逆向搜索,最终设定一个收敛域即可.
@勾爸280：如何用共轭梯度法求解约束最小二乘问题 -
沈舒13956338628…… t = [0.20711 0.99391 0.41643 -0.74095 -0.87009]';%% 方法1:直接使用MATLAB的伪逆(eye(5) + diag(-ones(4, 1), 1))\t%% 方法2:自己写最小二乘问题f = @(x)sum((x-circshift(x, -1) - t).^2);x = fsolve(f, zeros(5, 1))
@勾爸280：为什么梯度下降能找到最小值 -
沈舒13956338628…… 这要说梯度的意义了.梯度是一个向量,对应方向导数取得最大值的方向,也就是函数增长最快的方向,梯度的反向,就是函数下降最快的方向.要求最小值,自然可以用梯度下降法来求.
@勾爸280：运筹学求最小值问题的解法 -
沈舒13956338628…… 在可行域3x1+2x2+6x3≥8 4x1+6x2+3x3≥10 x1,x2,x3≥0中,由边界得 x1=12/5-2x2, x3=(10x2+2)/15, 所以目标函数z=500x1+400x2+600x3 =500(12/5-2x2)+400x2+600(10x2+2)/15 =1200-1000x2+400x2+400x2+80 =1280-200x2, 由x1,x2,x3≥0得0<=x2<=6/5, 所以1040<=z<=1280. 所以z的最小值是1040,最大值是1280. 可以吗?
@勾爸280：求函数的最大值和最小值的方法. -
沈舒13956338628…… 常见的求最值方法有: 1、配方法: 形如的函数,根据二次函数的极值点或边界点的取值确定函数的最值. 2、判别式法: 形如的分式函数, 将其化成系数含有y的关于x的二次方程.由于, ∴≥0, 求出y的最值, 此种方法易产生增根, 因而要对...
@勾爸280：非线性规划的深入解析 -
沈舒13956338628…… 例1(投资决策问题)某企业有n个项目可供选择投资,并且至少要对其中一个项目投资.已知该企业拥有总资金A元,投资于第i个项目需花资金ai元,并预计可收益bi元.试选择最佳投资方案.解:设投资决策变量为 则投资总额为∑aixi,投资...
沈舒13956338628…… 飘过
@勾爸280：梯度法如何理解转换为求最小值就是最优解 -
沈舒13956338628…… (这里指的是模式识别中的梯度法求最小值的问题)简单地说就是,当你的类分对时会有WtX>0,你要寻找的权应该满足这个关系,而你的准则函数应该具有的性质是:准则函数有唯一的最小值,且这个最小指发生在WtX>0时.也就是说当你的准则函数取到最小值时会有WtX>0,而这不正是我们要的权吗?所以我们将求满足WtX>0的权转换成了求准则函数的最小值问题,两者在这里是等价的.
@勾爸280：方向导数求最大值和最小值 -
沈舒13956338628…… 求z的梯度,为grad=(2x-y,2y-x)将(1,1)代入得grad|(1,1)=(1,1)所以当方向导数与梯度方向相同时最大=√(x^2+y^2)=√2,方向导数与梯度方向相反时最小=-√(x^2+y^2)=-√2
@勾爸280：求最大值最小值的所有题型方法(具体举例说明) -
沈舒13956338628…… 1.y=sin2x-x,x∈[-90度,90度] 求此函数的最大值最小值 1.解:y'=2cos2x-1=0. 得x=pi/6. 得到最大值y(x=pi/6)=sqrt(3)/2-pi/6. 最小值出现在x=pi/2时,y=-pi/2. 2.动点P(x,y)在圆上x^2+(y-1)^2=1,求(y-1)/(x-2)的最大值和2x+y的最小值 2.解:利用圆的...
@勾爸280：当遇到函数极值点不是全局最优解如何使用梯度下降发求最小值 -
沈舒13956338628…… 单纯的梯度下降算法是收敛于局部最优解的,如果要求实现全局最优解的话可以考虑加入退火算法或者遗传算法之类的思想,简单说就是在搜索过程中不但有基于梯度下降的方向,同时也融入少量的逆向搜索,最终设定一个收敛域即可.
@勾爸280：如何用共轭梯度法求解约束最小二乘问题 -
沈舒13956338628…… t = [0.20711 0.99391 0.41643 -0.74095 -0.87009]';%% 方法1:直接使用MATLAB的伪逆(eye(5) + diag(-ones(4, 1), 1))\t%% 方法2:自己写最小二乘问题f = @(x)sum((x-circshift(x, -1) - t).^2);x = fsolve(f, zeros(5, 1))
@勾爸280：为什么梯度下降能找到最小值 -
沈舒13956338628…… 这要说梯度的意义了.梯度是一个向量,对应方向导数取得最大值的方向,也就是函数增长最快的方向,梯度的反向,就是函数下降最快的方向.要求最小值,自然可以用梯度下降法来求.
@勾爸280：运筹学求最小值问题的解法 -
沈舒13956338628…… 在可行域3x1+2x2+6x3≥8 4x1+6x2+3x3≥10 x1,x2,x3≥0中,由边界得 x1=12/5-2x2, x3=(10x2+2)/15, 所以目标函数z=500x1+400x2+600x3 =500(12/5-2x2)+400x2+600(10x2+2)/15 =1200-1000x2+400x2+400x2+80 =1280-200x2, 由x1,x2,x3≥0得0<=x2<=6/5, 所以1040<=z<=1280. 所以z的最小值是1040,最大值是1280. 可以吗?
@勾爸280：求函数的最大值和最小值的方法. -
沈舒13956338628…… 常见的求最值方法有: 1、配方法: 形如的函数,根据二次函数的极值点或边界点的取值确定函数的最值. 2、判别式法: 形如的分式函数, 将其化成系数含有y的关于x的二次方程.由于, ∴≥0, 求出y的最值, 此种方法易产生增根, 因而要对...
@勾爸280：非线性规划的深入解析 -
沈舒13956338628…… 例1(投资决策问题)某企业有n个项目可供选择投资,并且至少要对其中一个项目投资.已知该企业拥有总资金A元,投资于第i个项目需花资金ai元,并预计可收益bi元.试选择最佳投资方案.解:设投资决策变量为 则投资总额为∑aixi,投资...
