计算机工程
計算機工程
계산궤공정
COMPUTER ENGINEERING
2014年
9期
215-219,224
,共6页
黄重庆%徐哲壮%黄宴委%赖大虎
黃重慶%徐哲壯%黃宴委%賴大虎
황중경%서철장%황연위%뢰대호
极端学习机%结构风险%VC信任%粒子群优化%隐层节点数
極耑學習機%結構風險%VC信任%粒子群優化%隱層節點數
겁단학습궤%결구풍험%VC신임%입자군우화%은층절점수
Extreme Learning Machine(ELM)%structural risk%VC confidence%Particle Swarm Optimization(PSO)%hidden nodes number
隐层节点数是影响极端学习机( ELM)泛化性能的关键参数,针对传统的ELM隐层节点数确定算法中优化过程复杂、容易过学习或陷入局部最优的问题,提出结构风险最小化-极端学习机( SRM-ELM)算法。通过分析VC维与隐层节点数量之间的关联,对VC信任函数进行近似改进,使其为凹函数,并结合经验风险重构近似的SRM。在此基础上,将粒子群优化的位置值直接作为ELM的隐层节点数,利用粒子群算法最小化结构风险函数获得极端学习机的隐层节点数,作为最优节点数。使用6组UCI数据和胶囊缺陷数据进行仿真验证,结果表明,该算法能获得极端学习机的最优节点数,并具有更好的泛化能力。
隱層節點數是影響極耑學習機( ELM)汎化性能的關鍵參數,針對傳統的ELM隱層節點數確定算法中優化過程複雜、容易過學習或陷入跼部最優的問題,提齣結構風險最小化-極耑學習機( SRM-ELM)算法。通過分析VC維與隱層節點數量之間的關聯,對VC信任函數進行近似改進,使其為凹函數,併結閤經驗風險重構近似的SRM。在此基礎上,將粒子群優化的位置值直接作為ELM的隱層節點數,利用粒子群算法最小化結構風險函數穫得極耑學習機的隱層節點數,作為最優節點數。使用6組UCI數據和膠囊缺陷數據進行倣真驗證,結果錶明,該算法能穫得極耑學習機的最優節點數,併具有更好的汎化能力。
은층절점수시영향겁단학습궤( ELM)범화성능적관건삼수,침대전통적ELM은층절점수학정산법중우화과정복잡、용역과학습혹함입국부최우적문제,제출결구풍험최소화-겁단학습궤( SRM-ELM)산법。통과분석VC유여은층절점수량지간적관련,대VC신임함수진행근사개진,사기위요함수,병결합경험풍험중구근사적SRM。재차기출상,장입자군우화적위치치직접작위ELM적은층절점수,이용입자군산법최소화결구풍험함수획득겁단학습궤적은층절점수,작위최우절점수。사용6조UCI수거화효낭결함수거진행방진험증,결과표명,해산법능획득겁단학습궤적최우절점수,병구유경호적범화능력。
The number of hidden nodes is a critical factor for the generalization of Extreme Learning Machine( ELM) . There exists complex optimization process,over learning or traps in local optimum in traditional algorithm of calculating the number of hidden layer of ELM. Aiming at the problems,Structural Risk Minimization(SRM)-ELM is proposed. Combining empirical risk with VC confidence,this paper proposes a novel algorithm to automatically obtain the best one to guarantee good generalization. On this basis,the Particle Swarm Optimization( PSO) position value is directly treated as ELM hidden layer nodes,which employs the PSO in the optimizing process with Structural Risk Minimization(SRM) principle. The optimal number of hidden nodes is reasonable correspond to 6 cases. Simulation results show that the algorithm can obtain the extreme learning machine optimal nodes and better generalization ability.