重庆师范大学学报(自然科学版)
重慶師範大學學報(自然科學版)
중경사범대학학보(자연과학판)
JOURNAL OF CHONGQING NORMAL UNIVERSITY(NATURAL SCIENCE EDITION)
2013年
6期
25-30
,共6页
次梯度法%非光滑最优化问题%步长准则
次梯度法%非光滑最優化問題%步長準則
차제도법%비광활최우화문제%보장준칙
subgradient methods%nonsmooth optimization problem%step size rules
本文研究了次梯度法的一些重要问题.次梯度法是梯度法在非光滑优化中的直接推广.在每一步的迭代中,选取一个负次梯度方向为搜索方向,并以一定的规则设置搜索步长.次梯度法的每一步迭代不一定都下降,但是可以证明,对于非光滑凸优化问题,次梯度法能够保证全局收敛性.次梯度法的搜索步长是预先设置的,步长设置准则包括常值步长准则、有限平方和步长准则和已知全局极小值的步长准则.本文对各种步长准则的收敛性进行了证明.为了验证次梯度法在不同的步长准则下的计算效果,本文应用次梯度法对一系列非光滑最优化问题进行了计算实验,并分析了他们的计算结果.数值实验结果表明,常值步长准则收敛速度慢,精度不高,而且步长的选择困难.而有限平方和步长准则收敛速度更快,也能够达到更高的精度.至于已知全局极小值的步长准则,虽然精度也较高,但是因为需要事先已知凸优化问题的全局极小值,所以这种步长准则的应用范围有限.
本文研究瞭次梯度法的一些重要問題.次梯度法是梯度法在非光滑優化中的直接推廣.在每一步的迭代中,選取一箇負次梯度方嚮為搜索方嚮,併以一定的規則設置搜索步長.次梯度法的每一步迭代不一定都下降,但是可以證明,對于非光滑凸優化問題,次梯度法能夠保證全跼收斂性.次梯度法的搜索步長是預先設置的,步長設置準則包括常值步長準則、有限平方和步長準則和已知全跼極小值的步長準則.本文對各種步長準則的收斂性進行瞭證明.為瞭驗證次梯度法在不同的步長準則下的計算效果,本文應用次梯度法對一繫列非光滑最優化問題進行瞭計算實驗,併分析瞭他們的計算結果.數值實驗結果錶明,常值步長準則收斂速度慢,精度不高,而且步長的選擇睏難.而有限平方和步長準則收斂速度更快,也能夠達到更高的精度.至于已知全跼極小值的步長準則,雖然精度也較高,但是因為需要事先已知凸優化問題的全跼極小值,所以這種步長準則的應用範圍有限.
본문연구료차제도법적일사중요문제.차제도법시제도법재비광활우화중적직접추엄.재매일보적질대중,선취일개부차제도방향위수색방향,병이일정적규칙설치수색보장.차제도법적매일보질대불일정도하강,단시가이증명,대우비광활철우화문제,차제도법능구보증전국수렴성.차제도법적수색보장시예선설치적,보장설치준칙포괄상치보장준칙、유한평방화보장준칙화이지전국겁소치적보장준칙.본문대각충보장준칙적수렴성진행료증명.위료험증차제도법재불동적보장준칙하적계산효과,본문응용차제도법대일계렬비광활최우화문제진행료계산실험,병분석료타문적계산결과.수치실험결과표명,상치보장준칙수렴속도만,정도불고,이차보장적선택곤난.이유한평방화보장준칙수렴속도경쾌,야능구체도경고적정도.지우이지전국겁소치적보장준칙,수연정도야교고,단시인위수요사선이지철우화문제적전국겁소치,소이저충보장준칙적응용범위유한.