计算机工程
計算機工程
계산궤공정
COMPUTER ENGINEERING
2014年
11期
149-154
,共6页
熊俊%王士同%潘永惠%包芳
熊俊%王士同%潘永惠%包芳
웅준%왕사동%반영혜%포방
隐层节点%神经网络%剪枝算法%惩罚函数%泛化%XOR数据
隱層節點%神經網絡%剪枝算法%懲罰函數%汎化%XOR數據
은층절점%신경망락%전지산법%징벌함수%범화%XOR수거
hidden layer node%neural network%pruning algorithm%penalty function%generalization%XOR data
神经网络的隐层数和隐层节点数决定了网络规模,并对网络性能造成较大影响。在满足网络所需最少隐层节点数的前提下,利用剪枝算法删除某些冗余节点,减少隐层节点数,得到更加精简的网络结构。基于惩罚函数的剪枝算法是在目标函数后加入一个惩罚函数项,该惩罚函数项是一个变量为网络权值的函数。由于惩罚函数中的网络权值变量可以附加一个可调参数,将单一惩罚函数项泛化为一类随参数规律变化的新的惩罚函数,初始惩罚函数可看作泛化后惩罚函数的参数取定值的特殊情况。实验利用基于标准BP神经网络的XOR数据进行测试,得到隐层节点剪枝效果和网络权值随惩罚函数的泛化而发生变化,并从数据分析中得出具有更好剪枝效果及更优网络结构的惩罚函数泛化参数。
神經網絡的隱層數和隱層節點數決定瞭網絡規模,併對網絡性能造成較大影響。在滿足網絡所需最少隱層節點數的前提下,利用剪枝算法刪除某些冗餘節點,減少隱層節點數,得到更加精簡的網絡結構。基于懲罰函數的剪枝算法是在目標函數後加入一箇懲罰函數項,該懲罰函數項是一箇變量為網絡權值的函數。由于懲罰函數中的網絡權值變量可以附加一箇可調參數,將單一懲罰函數項汎化為一類隨參數規律變化的新的懲罰函數,初始懲罰函數可看作汎化後懲罰函數的參數取定值的特殊情況。實驗利用基于標準BP神經網絡的XOR數據進行測試,得到隱層節點剪枝效果和網絡權值隨懲罰函數的汎化而髮生變化,併從數據分析中得齣具有更好剪枝效果及更優網絡結構的懲罰函數汎化參數。
신경망락적은층수화은층절점수결정료망락규모,병대망락성능조성교대영향。재만족망락소수최소은층절점수적전제하,이용전지산법산제모사용여절점,감소은층절점수,득도경가정간적망락결구。기우징벌함수적전지산법시재목표함수후가입일개징벌함수항,해징벌함수항시일개변량위망락권치적함수。유우징벌함수중적망락권치변량가이부가일개가조삼수,장단일징벌함수항범화위일류수삼수규률변화적신적징벌함수,초시징벌함수가간작범화후징벌함수적삼수취정치적특수정황。실험이용기우표준BP신경망락적XOR수거진행측시,득도은층절점전지효과화망락권치수징벌함수적범화이발생변화,병종수거분석중득출구유경호전지효과급경우망락결구적징벌함수범화삼수。
The number of hidden layer and hidden layer node in neural network determines the size of the network and has a great influence on the performance of the network. Therefore,when the network contains the least hidden layer node number,pruning algorithm can be used to delete some redundant node, then the network is more simple. The pruning algorithm adds a penalty function to the target function, and the penalty function regards the weights of network as variable. It adds a variable parameter to the weights of network,so the simple penalty function can be generalized to a kind of new penalty function that changes as the parameter. The initial function can be treated as a special condition after the generalization of penalty function. Experiment tests the XOR data based on the BP neural network and sums up the effect of the generalization of penalty function on the pruning of the hidden layer node with neural network and the structure of the neural network. Then the parameters which can lead to better pruning effect and more optimal network structure are obtained from data in experiment.