计算机研究与发展
計算機研究與髮展
계산궤연구여발전
JOURNAL OF COMPUTER RESEARCH AND DEVELOPMENT
2005年
10期
1790-1795
,共6页
神经网络%训练算法%HJPS算法
神經網絡%訓練算法%HJPS算法
신경망락%훈련산법%HJPS산법
根据优化理论中的Hooke-Jeeves模式搜索(pattern search)法提出了多层前馈式神经网络快速训练算法HJPS.该算法由"探测搜索"和"模式移动"两个步骤交替进行.其基本思想是探测搜索依次沿各个坐标轴进行,用以确定新的基点和有利于网络误差函数值下降的方向.模式移动沿相邻两个基点的连线方向前进,从而进一步减小误差函数值,达到更快收敛.实验结果表明,同BP算法以及其他几种快速算法相比,HJPS算法在收敛速度和运算时间上都有非常显著的提高.同时HJPS算法的泛化能力很强.
根據優化理論中的Hooke-Jeeves模式搜索(pattern search)法提齣瞭多層前饋式神經網絡快速訓練算法HJPS.該算法由"探測搜索"和"模式移動"兩箇步驟交替進行.其基本思想是探測搜索依次沿各箇坐標軸進行,用以確定新的基點和有利于網絡誤差函數值下降的方嚮.模式移動沿相鄰兩箇基點的連線方嚮前進,從而進一步減小誤差函數值,達到更快收斂.實驗結果錶明,同BP算法以及其他幾種快速算法相比,HJPS算法在收斂速度和運算時間上都有非常顯著的提高.同時HJPS算法的汎化能力很彊.
근거우화이론중적Hooke-Jeeves모식수색(pattern search)법제출료다층전궤식신경망락쾌속훈련산법HJPS.해산법유"탐측수색"화"모식이동"량개보취교체진행.기기본사상시탐측수색의차연각개좌표축진행,용이학정신적기점화유리우망락오차함수치하강적방향.모식이동연상린량개기점적련선방향전진,종이진일보감소오차함수치,체도경쾌수렴.실험결과표명,동BP산법이급기타궤충쾌속산법상비,HJPS산법재수렴속도화운산시간상도유비상현저적제고.동시HJPS산법적범화능력흔강.