计算机科学
計算機科學
계산궤과학
COMPUTER SCIENCE
2013年
12期
116-121
,共6页
Ridge Polynomial神经网络%异步梯度算法%动量项%单调性%收敛性
Ridge Polynomial神經網絡%異步梯度算法%動量項%單調性%收斂性
Ridge Polynomial신경망락%이보제도산법%동량항%단조성%수렴성
Keywords Ridge polynomial neural networks%Asynchronous gradient algorithm%Momentum%Monotonicity%Convergence
将动量项引入到Ridge Polynomial神经网络异步梯度训练算法的误差函数中,有效地改善了算法的收敛效率,并从理论上分析了Ridge Polynomial神经网络的带动量项的异步梯度算法的收敛性,给出了算法的单调性和收敛性(包括强收敛性和弱收敛性).算法的这些收敛性质对于如何选取学习率和初始权值来进行高效的网络训练是非常重要的.最后通过计算机仿真实验验证了带动量项的异步梯度算法的高效性和理论分析的正确性.
將動量項引入到Ridge Polynomial神經網絡異步梯度訓練算法的誤差函數中,有效地改善瞭算法的收斂效率,併從理論上分析瞭Ridge Polynomial神經網絡的帶動量項的異步梯度算法的收斂性,給齣瞭算法的單調性和收斂性(包括彊收斂性和弱收斂性).算法的這些收斂性質對于如何選取學習率和初始權值來進行高效的網絡訓練是非常重要的.最後通過計算機倣真實驗驗證瞭帶動量項的異步梯度算法的高效性和理論分析的正確性.
장동량항인입도Ridge Polynomial신경망락이보제도훈련산법적오차함수중,유효지개선료산법적수렴효솔,병종이론상분석료Ridge Polynomial신경망락적대동량항적이보제도산법적수렴성,급출료산법적단조성화수렴성(포괄강수렴성화약수렴성).산법적저사수렴성질대우여하선취학습솔화초시권치래진행고효적망락훈련시비상중요적.최후통과계산궤방진실험험증료대동량항적이보제도산법적고효성화이론분석적정학성.
