兰州理工大学学报
蘭州理工大學學報
란주리공대학학보
JOURNAL OF LANZHOU UNIVERSITY OF TECHNOLOGY
2004年
4期
84-87
,共4页
前馈神经网络%GaussNewton法%NL2SOL法%残量问题%收敛性%稳定性
前饋神經網絡%GaussNewton法%NL2SOL法%殘量問題%收斂性%穩定性
전궤신경망락%GaussNewton법%NL2SOL법%잔량문제%수렴성%은정성
目前基于高斯牛顿法及其衍生算法的前馈神经网络虽然可以达到局部二阶收敛速度,但只对小残量或零残量问题有效,对大残量问题则收敛很慢甚至不收敛.为了实时解决神经网络学习过程中可能遇到的小残量问题和大残量问题,引入NL2SOL优化算法与GaussNewton法相结合,并引入熵误差函数,构建基于GaussNewtonNL2SOL法的前馈神经网络.仿真实例表明,该神经网络较好地解决了残量问题,具有良好的收敛性和稳定性.
目前基于高斯牛頓法及其衍生算法的前饋神經網絡雖然可以達到跼部二階收斂速度,但隻對小殘量或零殘量問題有效,對大殘量問題則收斂很慢甚至不收斂.為瞭實時解決神經網絡學習過程中可能遇到的小殘量問題和大殘量問題,引入NL2SOL優化算法與GaussNewton法相結閤,併引入熵誤差函數,構建基于GaussNewtonNL2SOL法的前饋神經網絡.倣真實例錶明,該神經網絡較好地解決瞭殘量問題,具有良好的收斂性和穩定性.
목전기우고사우돈법급기연생산법적전궤신경망락수연가이체도국부이계수렴속도,단지대소잔량혹령잔량문제유효,대대잔량문제칙수렴흔만심지불수렴.위료실시해결신경망락학습과정중가능우도적소잔량문제화대잔량문제,인입NL2SOL우화산법여GaussNewton법상결합,병인입적오차함수,구건기우GaussNewtonNL2SOL법적전궤신경망락.방진실례표명,해신경망락교호지해결료잔량문제,구유량호적수렴성화은정성.
