计算机仿真
計算機倣真
계산궤방진
COMPUTER SIMULATION
2004年
12期
158-161,244
,共5页
贾文臣%叶世伟%陈国梁%贾显鹏
賈文臣%葉世偉%陳國樑%賈顯鵬
가문신%협세위%진국량%가현붕
前馈神经网络%凸优化理论%算法%自适应分析%应用
前饋神經網絡%凸優化理論%算法%自適應分析%應用
전궤신경망락%철우화이론%산법%자괄응분석%응용
该文利用凸优化理论和约束优化理论为前馈神经网络构造出了一个新的优化目标函数.该目标函数的一个重要特点是:若固定连接权值,它对隐层输出来说为凸的;若固定隐层输出,它对连接权值来说为凸的.对该目标函数进行优化时,把隐层输出也做为被优化变量,交替优化隐层输出和连接权值;之后再增大惩罚因子的值,重复上述步骤,直到惩罚因子足够大为止.用新的目标函数设计的前馈网络凸优化算法,能在很大程度上克服以往算法易于陷入局部最小而使网络训练失败的缺陷.从理论和实践上对新算法进行了深入分析,重点分析了惩罚因子在算法中的重要作用,并通过图像压缩这一实例进行了很好的验证.
該文利用凸優化理論和約束優化理論為前饋神經網絡構造齣瞭一箇新的優化目標函數.該目標函數的一箇重要特點是:若固定連接權值,它對隱層輸齣來說為凸的;若固定隱層輸齣,它對連接權值來說為凸的.對該目標函數進行優化時,把隱層輸齣也做為被優化變量,交替優化隱層輸齣和連接權值;之後再增大懲罰因子的值,重複上述步驟,直到懲罰因子足夠大為止.用新的目標函數設計的前饋網絡凸優化算法,能在很大程度上剋服以往算法易于陷入跼部最小而使網絡訓練失敗的缺陷.從理論和實踐上對新算法進行瞭深入分析,重點分析瞭懲罰因子在算法中的重要作用,併通過圖像壓縮這一實例進行瞭很好的驗證.
해문이용철우화이론화약속우화이론위전궤신경망락구조출료일개신적우화목표함수.해목표함수적일개중요특점시:약고정련접권치,타대은층수출래설위철적;약고정은층수출,타대련접권치래설위철적.대해목표함수진행우화시,파은층수출야주위피우화변량,교체우화은층수출화련접권치;지후재증대징벌인자적치,중복상술보취,직도징벌인자족구대위지.용신적목표함수설계적전궤망락철우화산법,능재흔대정도상극복이왕산법역우함입국부최소이사망락훈련실패적결함.종이론화실천상대신산법진행료심입분석,중점분석료징벌인자재산법중적중요작용,병통과도상압축저일실례진행료흔호적험증.
