神经网络-(6)BP网络wu.ppt

人工神经网络及其应用第6章BP神经网络一、内容回顾二、BP网络三、网络设计四、改进BP网络五、内容小结2.1BP网络简介2.2网络模型2.3学习规则2.4图形解释2.5网络训练反向传播网络(Back-PropagationNetwork，简称BP网络)是将W-H学习规则一般化，对非线性可微分函数进行权值训练的多层网络权值的调整采用反向传播(Back-propagation）的学习算法它是一种多层前向反馈神经网络，其神经元的变换函数是S型函数输出量为0到1之间的连续量，它可实现从输入到输出的任意的非线性映射2.5网络训练三、网络设计3.1网络的层数3.2隐含层神经元数隐含层神经元数3.3初始权值的选取3.4学习速率3.5期望误差值选取3.6应用举例网络设计：输入输出单元个数均为1.隐含层神经元个数在3～8之间。用可变的隐含层神经元个数，通过误差对比，确定最佳个数，并检验对网络性能的影响。代码：s=3:8;res=1:6;fori=1:6net=newff(minmax(P),[s(i),1],{'tansig','logsig'},'traingdx');net.trainParam.epochs=2000;net.trainParam.goal=0.0001;net=train(net,P,T);y=sim(net,P);error=y-T;res(i)=norm(error);endres=1.58121.92701.55801.92701.58031.4449网络训练误差3.6应用举例（cont’d)3.6应用举例（cont’d)3.6应用举例（cont’d)3.7限制与不足四、BP网络的改进4.1目标4.2附加动量法4.2附加动量法4.2附加动量法4.3误差函数改进4.3误差函数改进4.3误差函数改进4.4自适应学习速率4.4自适应学习速率五、内容小结五、内容小结五、内容小结下次讲课内容反馈网络Hopfield网络作业径向基函数神经网络径向基函数神经网络（RBF)