计算机工程
計算機工程
계산궤공정
COMPUTER ENGINEERING
2012年
23期
173-176,180
,共5页
神经网络%Levenberg-Marquardt反向传播算法%鞍点%雅克比矩阵%海森矩阵%高斯-牛顿法
神經網絡%Levenberg-Marquardt反嚮傳播算法%鞍點%雅剋比矩陣%海森矩陣%高斯-牛頓法
신경망락%Levenberg-Marquardt반향전파산법%안점%아극비구진%해삼구진%고사-우돈법
针对目前神经网络中的Levenberg-Marquardt反向传播(LMBP)算法在训练过程中有可能迭代到鞍点的问题,提出一种能有效克服鞍点的LMBP改进算法.计算鞍点处雅克比矩阵的正特征值对应的特征向量并将共作为新的搜索方向.通过实例对比传统LMBP算法与改进LMBP算法的效果,证明改进的算法能有效地脱离鞍点并进一步收敛到极小点处.
針對目前神經網絡中的Levenberg-Marquardt反嚮傳播(LMBP)算法在訓練過程中有可能迭代到鞍點的問題,提齣一種能有效剋服鞍點的LMBP改進算法.計算鞍點處雅剋比矩陣的正特徵值對應的特徵嚮量併將共作為新的搜索方嚮.通過實例對比傳統LMBP算法與改進LMBP算法的效果,證明改進的算法能有效地脫離鞍點併進一步收斂到極小點處.
침대목전신경망락중적Levenberg-Marquardt반향전파(LMBP)산법재훈련과정중유가능질대도안점적문제,제출일충능유효극복안점적LMBP개진산법.계산안점처아극비구진적정특정치대응적특정향량병장공작위신적수색방향.통과실례대비전통LMBP산법여개진LMBP산법적효과,증명개진적산법능유효지탈리안점병진일보수렴도겁소점처.