信息技术与信息化
信息技術與信息化
신식기술여신식화
Information Technology & Informatization
2015年
6期
183-184,186
,共3页
神经网络%梯度法%逆向迭代算法%单调性%正则化%收敛性
神經網絡%梯度法%逆嚮迭代算法%單調性%正則化%收斂性
신경망락%제도법%역향질대산법%단조성%정칙화%수렴성
本文主要考虑带L2正则化惩罚项的逆向迭代神经网络学习算法收敛性.首先给出了带惩罚项的新的误差函数的单调性证明.在此结论上,证明了在网络训练过程中,输入向量序列是一致有界的,并且算法是确定型收敛,即在迭代过程中,误差函数关于输入向量的梯度趋于零且输入向量序列收敛到一个固定点.
本文主要攷慮帶L2正則化懲罰項的逆嚮迭代神經網絡學習算法收斂性.首先給齣瞭帶懲罰項的新的誤差函數的單調性證明.在此結論上,證明瞭在網絡訓練過程中,輸入嚮量序列是一緻有界的,併且算法是確定型收斂,即在迭代過程中,誤差函數關于輸入嚮量的梯度趨于零且輸入嚮量序列收斂到一箇固定點.
본문주요고필대L2정칙화징벌항적역향질대신경망락학습산법수렴성.수선급출료대징벌항적신적오차함수적단조성증명.재차결론상,증명료재망락훈련과정중,수입향량서렬시일치유계적,병차산법시학정형수렴,즉재질대과정중,오차함수관우수입향량적제도추우령차수입향량서렬수렴도일개고정점.
