２００７，４３（３１）神经网络辨识器
被辨识系统
ｙ（ｋ）ｅ
（ｋ）ｙ
!（ｋ）ｕ
（ｋ）－
＋图１系统辨识原理框图
１引言
动态系统的控制通常需要在无需预先知道精确的对象和
环境知识时便能实现，因此寻求适当的方法以解决不确定性的、高度复杂的动态系统辨识是控制理论研究的一个重要分支。神经网络是由大量处理单元广泛互连而成的网络，具有大规模并行模拟处理能力和很强的自适应、自组织、自学习能力，因而近年来在系统建模、辨识与控制中受到普遍重视。在自动控制领域，基于线性系统理论对被控系统进行辩识并修正参数的方法能较好地应用于线性系统，但很难推广到复杂的非线性系统。神经网络所具有的非线性变换特性和高度并行运算能力为系统辨识，尤其是非线性系统的辨识提供了有效的方法。
目前，系统辩识中应用最多的是多层前向网络，多层前向网络具有逼近任意连续非线性函数的能力，但这种网络结构一般是静态的，而人们更关心控制系统的动态特性，这恰恰是ＢＰ神经网络等前馈网络所缺乏的。与静态前馈型神经网络不同，动态递归网络通过存储内部状态，使其具备映射动态特征的功能，从而使系统具有适应时变特性的能力，更适合于非线性动态系统的辩识。动态递归神经网络是控制系统建模和辨识中极具发展潜力的网络，本文利用改进的动态递归Ｅｌｍａｎ神经网络实现对非线性动态系统的辨识。
２神经网络非线性系统辨识原理
假定拟辨识对象为非线性离散时间系统，或者可以离散化
为这样的系统，用ＮＡＲＭＡ模型来描述：
ｙ（ｋ）＝ｆ（ｙ（ｋ－１），…，ｙ（ｋ－ｎ），ｕ（ｋ－１），…，ｕ（ｋ－ｍ））（１）
式中，ｎ、ｍ分别为模型输出ｙ（ｔ）和输入ｕ（ｔ）的阶次，ｆ（?
）是非线性函数。
如果ｆ（?
）未知时，不确定系统的辨识问题可以描述为寻求一数学模型，使得模型的输出ｙ!（?）和被辨识系统的输出ｙ（?）
尽量接近。神经网络具有通过恰当选择网络层次和隐层单元数，能够以任意精度逼近任意连续非线性函数的特性，因此可作为辨识模型，用来对非线性系统进行辨识。
由图１所示的系统辨识原理可以看出，辨识模型和被辨识
系统具有相同的输入，定义误差ｅ（ｋ）＝ｙ!（ｋ）－ｙ（ｋ），用于对神经
网络进行学习和修正。
基于Ｅｌｍａｎ神经网络的非线性动态系统辨识
高钦和１，２，王孙安１
ＧＡＯＱｉｎ－ｈｅ１，２，ＷＡＮＧＳｕｎ－ａｎ１
１．西安交通大学机械工程学院，西安７１００２８２．第二炮兵工程学院，西安７１００２５
１．ＳｃｈｏｏｌｏｆＭｅｃｈａｎｉｃａｌＥｎｇｉｎｅｅｒｉｎｇ，Ｘｉ’ａｎＪｉａｏｔｏｎｇＵｎｉｖｅｒｓｉｔｙ，Ｘｉ’ａｎ７１００２８，Ｃｈｉｎａ２．ＳｅｃｏｎｄＡｒｔｉｌｌｅｒｙＥｎｇｉｎｅｅｒｉｎｇＣｏｌｌｅｇｅ，Ｘｉ’ａｎ７１００２５，ＣｈｉｎａＥ－ｍａｉｌ：ｇａｏ２０２＠ｙａｈｏｏ．ｃｏｍ．ｃｎ
ＧＡＯＱｉｎ－ｈｅ，ＷＡＮＧＳｕｎ－ａｎ．ＩｄｅｎｔｉｆｉｃａｔｉｏｎｏｆｎｏｎｌｉｎｅａｒｄｙｎａｍｉｃｓｙｓｔｅｍｂａｓｅｄｏｎＥｌｍａｎｎｅｕｒａｌｎｅｔｗｏｒｋ．Ｃｏｍｐｕｔｅｒ
ＥｎｇｉｎｅｅｒｉｎｇａｎｄＡｐｐｌｉｃａｔｉｏｎｓ，２００７，４３
（３１）：８７－８９．Ａｂｓｔｒａｃｔ：Ｔｈｅｔｈｅｏｒｙａｎｄｍｅｔｈｏｄｏｆｄｙｎａｍｉｃｓｙｓｔｅｍｉｄｅｎｔｉｆｉｃａｔｉｏｎｂｙｄｙｎａｍｉｃｒｅｃｕｒｒｅｎｔｎｅｕｒａｌｎｅｔｗｏｒｋａｒｅｓｔｕｄｉｅｄ．Ａｎｉｍｐｒｏｖｅｄ
Ｅｌｍａｎｎｅｕｒａｌｎｅｔｗｏｒｋｉｓｓｕｃｃｅｓｓｆｕｌｌｙｕｓｅｄｔｏｉｄｅｎｔｉｆｙｔｈｅｎｏｎｌｉｎｅａｒｄｙｎａｍｉｃｓｙｓｔｅｍｅｖｅｎｔｈｏｕｇｈｗｉｔｈｏｕｔａｎｙｐｒｉｏｒｉｎｆｏｒｍａｔｉｏｎｏｆｉｄｅｎｔｉｆｉｅｄｓｙｓｔｅｍ．ＳｉｍｕｌａｔｉｏｎｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅＥｌｍａｎｎｅｕｒａｌｎｅｔｗｏｒｋｈａｓｈｉｇｈｅｒｌｅａｒｎｉｎｇｓｐｅｅｄａｎｄｂｅｔｔｅｒｇｅｎｅｒａｌｉｚａｔｉｏｎａｂｉｌｉｔｙｔｈａｎｔｈｅｆｅｅｄｆｏｒｗａｒｄｎｅｕｒａｌｎｅｔｗｏｒｋ，ａｎｄｔｈａｔｉｔｉｓｓｕｉｔａｂｌｅｆｏｒｔｈｅｎｏｎｌｉｎｅａｒｄｙｎａｍｉｃｓｙｓｔｅｍｉｄｅｎｔｉｆｉｃａｔｉｏｎ．
Ｋｅｙｗｏｒｄｓ：ｎｏｎｌｉｎｅａｒｓｙｓｔｅｍｉｄｅｎｔｉｆｉｃａｔｉｏｎ；ｄｙｎａｍｉｃｓｙｓｔｅｍ；ｄｙｎａｍｉｃｒｅｃｕｒｒｅｎｔｎｅｕｒａｌｎｅｔｗｏｒｋ；Ｅｌｍａｎｎｅｕｒａｌｎｅｔｗｏｒｋ
摘
要：研究了应用动态递归神经网络实现动态系统辨识的原理和方法，在没有被辨识对象的先验知识情况下，通过改进的Ｅｌ－
ｍａｎ网络实现了非线性动态系统的辨识。
仿真结果表明，与前馈网络相比，Ｅｌｍａｎ网络具有学习速度快、泛化能力强的特点，可用较小的网络结构实现高阶系统的辨识，适用于具有本质非线性动态系统的辨识。关键词：非线性系统辨识；动态系统；动态递归神经网络；Ｅｌｍａｎ网络文章编号：１００２－８３３１（２００７）３１－００８７－０３
文献标识码：Ａ
中图分类号：ＴＰ１８３
作者简介：高钦和（１９６８－），男，西安交通大学博士后，第二炮兵工程学院副教授，主要研究方向为发射系统仿真与自动检测；王孙安（１９５７－），男，
教授，博士，主要研究方向为机电系统与工业过程的计算机智能监控。
ＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇａｎｄＡｐｐｌｉｃａｔｉｏｎｓ计算机工程与应用８７
２００７，４３（３１）ＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇａｎｄＡｐｐｌｉｃａｔｉｏｎｓ计算机工程与应用
ｚ
－１
ｚ
－１
ｗ
Ｉ１
ｗ
Ｉ２
ｗ
Ｉ３
ｙ
（ｋ）ｕ
（ｋ－１）输入层
承接层
隐藏层
输出层
!
!图２Ｅｌｍａｎ网络结构示意图
根据式（１），可以将神经网络的输入输出关系简单表示为：ｙ
（ｔ）＝ＮＮ［Ｗ，Ｘ１（ｔ），Ｘ２（ｔ）］（２）
式中，ＮＮ表示神经网络表达的非线性关系；Ｗ是由网络连接权值和有关节点参数共同组成的网络学习参数；Ｘ１（ｔ）是网络ｔ时刻的输入（不包括反馈部分）；Ｘ２（ｔ）是ｔ时刻前反馈回来的有用信息，也作为ｔ时刻的输入，如果是普通的前向网络，则不存在这一项。
基于神经网络的系统辨识问题可归结为：确定网络的拓扑
结构，并找出一组网络学习参数Ｗ＊，使得ｙ#（ｔ）＝ＮＮ［Ｗ＊
，Ｘ１（ｔ），Ｘ２（ｔ）］。网络学习参数Ｗ＊
可以通过一组关于对象输入输出关
系的学习数据集合｛Ｘ１（ｔ），ｙ（ｔ）｝，采用一定的学习算法对网络训练获得。神经网络对系统进行辨识是通过直接学习系统的输入／输出数据，学习的目的是使得所要求的误差函数达到最小，从而归纳出隐含在系统输入／输出数据中的关系。
由于ＢＰ网络等前馈网络是一种静态网络，网络的输出仅仅是当前输入的非线性映射，不能直接应用于动力学系统建模，即使利用多层前馈神经网络对动态系统进行辨识，实际上也是将动态时间建模问题变为一个静态空间建模问题。这就需要先验假定系统的ＮＡＲＭＡ模型类，需要对结构模型进行定阶，特别是随着系统阶次的增加，或阶次未知时，迅速膨胀的网络结构将使学习收敛速度更加缓慢，较多的输入节点也将使相应的辨识系统对外部噪声特别敏感。
递归神经网络将前馈网络的隐层结点或输出结点上的值反馈到前一层结点上或者在本层结点上进行自反馈，从而可以克服一般多层前馈网络在动态系统辨识中存在的问题。在动态递归网络中，Ｅｌｍａｎ网络结构简单，运算量小，非常适合于实时非线性动态系统辨识。
３Ｅｌｍａｎ网络与动态系统辨识
Ｅｌｍａｎ型回归神经网络是动态递归神经网络的一种，一般
可分为４层：输入层、隐层、承接层、输出层，其输入层、隐层、输
出层的连接类似于前馈网络，而增加的承接层则用来记忆隐层单元前一时刻的输出值，可以认为是一个一步迟延的延时算子，达到记忆的目的，从而使系统具有适应时变特性的能力，能直接反映动态过程的特性。
当Ｅｌｍａｎ网络用于辩识单输入、
单输出对象时，只需要一个输入单元和一个输出单元，其网络结构如图２所示。若考虑有ｎ个承接层单元，隐层单元的输入仅为ｎ＋１个；如果用ＢＰ网络实现同样功能，则需要２ｎ个隐层单元的输入。可见，采用
Ｅｌｍａｎ网络可以大大地减少结点数，从而减少了计算量，提高
了算法的实时性，当ｎ较大时，这个优点尤为显著。
设Ｅｌｍａｎ网络的输入层为ｒ个结点，隐层和承接层单元为
ｎ个结点，输出层为ｍ个结点，则网络输入Ｕ为ｒ维向量，隐层输出Ｘ及结构单元输出ＸＣ为ｎ维向量，网络输出Ｙ为ｍ维向
量，隐层单元与承接层单元之间的连接权ＷＩ１
为ｎ×ｎ维矩阵，隐层单元与输入单元之间的连接权ＷＩ２
为ｎ×ｒ维矩阵，隐层单元与输出单元之间的连接权ＷＩ３
为ｍ×ｎ维矩阵。则网络可以描述为：
Ｘ
（ｋ）＝ｆ（ＷＩ１ＸＣ（ｋ）＋ＷＩ２
Ｕ（ｋ－１））ＸＣ
（ｋ）＝Ｘ（ｋ－１）＋!ＸＣ（ｋ－１）Ｙ
（ｋ）＝ＷＩ３
Ｘ（ｋ!
####"####$
）（３）
式中，ｆ（ｘ）为隐层单元的激发函数，常取为Ｓｉｇｍｏｉｄ函数，即ｆ（ｘ）＝１／（１＋ｅ－ｘ
）；输出层单元的激发函数取为线性函数。０≤α＜
１，为自连接反馈增益因子，当α固定为０时，此网络为标准的Ｅｌｍａｎ网络；α不为０时，为改进的Ｅｌｍａｎ网络。
由于隐层存在反馈连接，在任意给定时刻，网络的输出受到网络过去输入／输出的影响，其影响程度由结点间的连接矩阵决定。设第ｋ步系统的实际输出为Ｙｄ（ｋ），定义误差函数为：
Ｅ
（ｋ）＝（Ｙｄ（ｋ）－Ｙ（ｋ））Ｔ
（Ｙｄ（ｋ）－Ｙ（ｋ））
２
（４）
将Ｅ对连接权ＷＩ３
、ＷＩ２
、ＷＩ１
分别求偏导数，由梯度下降法可得
Ｅｌｍａｎ网络的学习算法：
!ｗｉｊＩ３
＝"３#ｉ０
ｘｊ（ｋ
）!ｗｊｑＩ２＝"２$ｊｈ
ｕｑ（ｋ－１）
!ｗｊｌＩ１
＝"１ｍ
ｉ＝１
&
（$ｉ０
ｗｉｊＩ３
）’ｘｊ（ｋ
）’ｗｊｌ
Ｉ１
（５）
式中，"１、"２、"３分别为连接权ＷＩ１、ＷＩ２、ＷＩ３
的学习速率；ｉ＝１，２，…，ｍ；ｊ＝１，２，…，ｎ；ｑ＝１，２，…，ｒ；ｌ＝１，２，…，ｎ；$ｉ０
＝ｙｄ，ｉ（ｋ）－ｙｉ（ｋ），$ｊｈ
＝ｍ
ｉ＝１&（$ｊｈ
ｗｉｊＩ３
）ｆ′ｊ
（?），而：’ｘｊ（ｋ
）’ｗｊｌ
Ｉ１
＝ｆ′ｊ（?）ｘｌ（ｋ－１）＋%
’ｘｊ（ｋ－１
）’ｗｊｌ
Ｉ１
（６）
可知，对于连接矩阵ＷＩ１
的调整，式（５）构成了梯度’ｘｊ（ｋ
）’ｗｊｌ
Ｉ１
的动
态递推关系，因而可以辨识高阶系统。
４仿真实验
取仿真对象为非线性模型：
ｙ（ｋ）＝ｙ（ｋ－１）１＋ｙ２
（ｋ－２）
＋ｕ３（ｋ－１）＋ｕ（ｋ－２）（７）
在Ｍａｔｌａｂ７．０下编程实现Ｅｌｍａｎ神经网络辨识器。在仿真实验中，采用单输入的一阶Ｅｌｍａｎ网络辨识模型，虽然要比多
层ＢＰ前馈网络好，但学习效率还不够高。为了进一步提高网络性能，采用二阶Ｅｌｍａｎ模型，将系统实际输出值的变化趋势，
即在ｔ－１时刻系统的一阶导数输入到网络的输入层。
取系统输入ｕ（ｋ）、系统输出变化ｄｙ（ｋ－１）＝ｙ（ｋ－１）－ｙ（ｋ－２）为网络输入，隐层单元数为２０，神经网络结构为２－２０－１。产生１００个训练数据点｛ｕ
（ｋ），ｙ（ｋ），ｄｙ（ｋ－１）｝，定义输入信号为ｕ（ｋ）＝ａｓｉｎ
（４"ｋ／２６），ｋ＝１，２，…，１００，其中当ｋ≤３０时取系数ａ＝０．８，３０＜８８
２００７，４３（３１）（上接８３页）６结论
提出将迭代学习方法用于小波阈值去噪中，对小波高频系
数经过几次循环，使错误分割的图像像素点降到最少，然后用小波逆变换恢复图像。实验结果表明，与普通的小波阈值去噪方法相比，该方法很好地保留了图像的边缘信息，视觉效果良好，去噪后图像的误差大大减小。（收稿日期：２００７年３月）
参考文献：
［１］罗忠亮，王修信，胡维平．小波图像去噪研究方法概述［Ｊ］．广西科学，
２００４，１１
（３）：２０７－２１１．［２］董长虹，高志，于啸海．Ｍａｔｌａｂ小波分析工具箱原理和应用［Ｍ］．北京：
国防工业出版社，２００４．
［３］于少娟，齐向东，吴聚华．迭代学习控制理论与应用［Ｍ］．北京：机械
工业出版社，２００５．
［４］ＲａｎｔａＲ，ＨｅｉｎｒｉｃｈＣ，ＶａｌｅｒｉｅＬｏｕｉｓ－Ｄｏｒｒ，ｅｔａｌ．Ｉｎｔｅｒｐｒｅｔａｔｉｏｎａｎｄ
ｉｍｐｒｏｖｅｍｅｎｔｏｆａｎｉｔｅｒａｔｉｖｅｗａｖｅｌｅｔ－ｂａｓｅｄｄｅｎｏｉｎｇｍｅｔｈｏｄ［Ｊ］．ＩＥＥＥＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇＬｅｔｔｅｒｓ，２００３，１０
（８）：２３９－２４１．［５］胡小锋，赵辉．ＶｉｓｕａｌＣ＋＋／ＭＡＴＬＡＢ图像处理与识别实用案例精
选［Ｍ］．北京：人民邮电出版社，２００４．
［６］任获荣，张平，王家礼．一种新的小波图像去噪方法［Ｊ］．红外与激光
工程，２００３，３２（６）：６４３－６４６．
［７］潘显兵．一种改进的小波阈值降噪方法性能分析［Ｊ］．微计算机信息，
２００６，２２
（７）：１１２－１１３．ｋ≤６０时取ａ＝０．９，ｋ＞６０时取ａ＝１。采用上述学习样本，对二阶
Ｅｌｍａｎ网络进行训练，经过３６步训练后，目标误差达到要求；
而在相同条件下，采用一阶Ｅｌｍａｎ网络，需要训练２６５步。图３所示是二阶Ｅｌｍａｎ网络的训练结果，图中ｙ为系统输出，ｙｅ为神经网络输出，误差ｅ＝ｙｅ－ｙ。图４给出了相同条件下采用ＢＰ网络的训练结果，在取ＢＰ网络隐层单元数为４０的情况下，经过１９００步训练后，目标误差才达到要求。
为了进一步测试非线性系统神经网络辨识器的性能，在对神经网络进行训练的基础上，定义系统输入信号为ｕ（ｋ）＝ａｓｉｎ
（４!ｋ／２６）＋ｂｓｉｎ（!ｋ／１５），取系数ａ＝０．９，ｂ＝０．１时，分别对二阶Ｅｌｍａｎ网络和ＢＰ网络进行测试，仿真结果如图５和图６所示，表明二阶Ｅｌｍａｎ网络对非线性系统的辨识结果良好，网络泛化能力明显优于ＢＰ网络。
５结论
与静态前馈型神经网络不同，动态递归网络通过存储内部
状态使其具备映射动态特征的功能，从而使系统具有适应时变
特性的能力，更适合于非线性动态系统的辩识。与ＢＰ网络等
前馈网络相比，动态递归的Ｅｌｍａｎ网络具有学习效率高、逼近速度快、泛化能力强的特点。仿真结果表明，在不需要被辨识对象的先验知识情况下，改进的Ｅｌｍａｎ网络可以很好地实现高阶非线性动态系统的辨识，可用较小的网络结构实现系统辨识，
在具有本质非线性动态系统的实时在线辨识中有良好的应用前景。（收稿日期：２００７年４月）
参考文献：
［１］王秀峰，卢桂章．系统辨建模于辨识［Ｍ］．北京：电子工业出版社，
２００４．
［２］葛宏伟，梁艳春．进化Ｅｌｍａｎ神经网络模型与非线性系统辨识［Ｊ］．吉
林大学学报，２００５（５）：５１１－５１９．
［３］时小虎，梁艳春，徐旭．改进的Ｅｌｍａｎ模型与递归反传控制神经网
络［Ｊ］．软件学报，２００３，１４（６）：１１１０－１１１８．
［４］谢庆国，沈轶，万淑芸．Ｅｌｍａｎ人工神经网络的收敛性分析［Ｊ］．计算机
工程与应用，２００２，３８（６）：６５－６６．
［５］李国勇．智能控制及其ＭＡＴＬＡＢ实现［Ｍ］．北京：电子工业出版社，
２００５．
y
ye ２０
４０６０８０
１００
０５０－５ｙ，ｙｅ
ｔ／ｓ
ｙｙｅ２０４０
６０８０１００
０
ｔ／ｓ
１０５０－５ｅ
图３Ｅｌｍａｎ网络训练结果
×１０
－４
t(s)
ｙｙｅ２０４０６０８０１００
０
ｔ／ｓ
５０－５ｙ，ｙｅ
２０
４０
６０８０
１００
０
０．１
０．０
－０．１
ｅｔ／ｓ
图４ＢＰ网络训练结果
２０４０６０８０１００
０
ｔ／ｓ
５０－５ｙ，ｙｅ
ｙ
ｙｅ
２０４０
６０８０１００
０ｔ／ｓ
０．０１
０．００
－０．０１ｅ
图５
Ｅｌｍａｎ网络测试结果
t(s)
t(s)
ｙ
ｙｅ
５０
－５ｙ，ｙｅ
２０４０
６０８０
１００
０ｔ／ｓ
５０
－５ｅ
２０
４０
６０８０１００
０ｔ／ｓ
图６
ＢＰ网络测试结果
高钦和，王孙安：基于Ｅｌｍａｎ神经网络的非线性动态系统辨识８９
神经网络动态系统的辨识与控制 摘要： 本论文表明神经网络对非线性动态系统进行有效的辨识与控制。本论文的侧重点是辨识与控制模型，并论述了动态反向传播以及静态反向传播方法在参数调节中的作用。在所介绍的模型中，加法器与重复网络结构的内部相连很独特，所以很有必要将他们统一起来进行研究。由仿真结果可知辨识与自适应控制方案的提出是可行的。整篇论文中都介绍到基本的概念和定义，也涉及了必须提出的学术性问题， 简介 用数学系统理论处理动态系统的分析与合成在过去的五十年里已经被列为应用广泛的权威科学原理了。权威系统理论最先进的地方定义于基于线性代数以及复合变量理论的先进技术线性操作器以及线性常微分方程。由于动态系统的设计技术与它们的稳定特性密切相关，线性时间不变系统的充分必要条件在上世纪已经产生了，所以已经建立了动态系统的著名设计方法。相反，只要在系统对系统基础上就可以基本上建立非线性系统的稳定性，因此对于大部分系统没有同时满足稳定性、鲁棒性以及良好动态响应的设计程序并不希奇。 过去三十年来，对线性、非时变和具有不确定参数的对象进行辨识与自适应控制的研究已取得了很大的进展。但是在这些研究中辨识器和控制器的结构选取和保证整个系统全局稳定性的自适应调参规律的构成等，都是建立在线性系统理论基础上的[1]。在本论文中，我们感兴趣的是神经网络非线性动态系统的控制与辨识。由于很少有可以直接应用的非线性系统理论结果存在，所以必须密切关注这个问题以及辨识器和控制器结构的选择和调整参数适应性规则的通用性问题。 在人工神经网络领域里，有两类网络今年来最引人注目：它们是（1）多层神经网络（2）回归神经网络。多层神经网络被证实在解决模式辨识问题[2]-[5]上非常成功。而回归神经网络则经常用于联想记忆以及制约优化问题的解决[[6]-[9]。从系统理论的观点来看，多层网络呈现静态非线性映射，而回归网络则通过非线性动态反馈系统显现。尽管两种网络存在外观上的不同外，但是很有必要将他们用统一成更一般化的网络。事实上，笔者确信将来会越来越多的用到动态因素以及反馈，这导致包括两种网络的复杂系统的产生。这样，将两个网络统一起来就成为必要。在本文的第三章，这个观点会得到进一步的阐述。 本文用了三个主要目标。第一个也是最重要的一个目标是在未知非线性动态系统中为自适应控制利用神经网络提出辨识以及控制器结构。当未知参数线性系
《热动力系统动态学》课程论文 题目：基于BP神经网络对电力系统负荷的预测控制学院：动力工程学院 专业：动力工程及工程热物理 姓名：赵乾学号：20091002055 指导教师：杨晨（教授） 成绩： 2010年7月30日
基于BP神经网络对电力系统负荷的预测控制摘要：电力系统的负荷曲线受很多因素的影响是一个非线性的函数，该文文献提出应用BP神经网络对电力负荷系统的预测控制，来抽取和逼近这种非线性函数。通过MATLAB仿真实验得到，对电力系统的短期负荷预测与实际负荷之间的误差很小，具有很好的应用前途。 关键词：BP神经网络，预测控制，电力负荷 引言 随着智能控制理论研究的不断深入及其在控制领域的广泛应用，神经网络[1]、遗传算法[2-3]模糊理论[4]等方法被应用于系统模型预测和辨识。其中，由于BP神经网络 (Back Propagation，BP)由于具有非线性逼近能力强，网络结构简单，学习速度快等优点已被广泛应用于对非线性系统的建立和预测。电力系统负荷的预测对电力系统和电厂设备的控制、运行和计划都有着重要的意义。电力系统负荷的变化一方面有未知不确定因素引起的随机波动，另一方面又具有周期变化的规律，使得负荷曲线具有相似性，而神经网络具有较强的非线性映射能力，能对负荷的变化具有很好预测性。 1.BP神经网络辨识理论基础 BP (Back Propagation)神经网络，即误差反传误差反向传播算法的学习过程，由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息，并传递给中间层各神经元；中间层是内部信息处理层，负责信息变换，根据信息变化能力的需求，中间层可以设计为单隐层或者多隐层结构；最后一个隐层传递到输出层各神经元的信息，经进一步处理后，完成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。当实际输出与期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程，是各层权值不断调整的过程，也是神经网络学习训练的过程，此过程一直进行到网络输出的误差减少到可以接受的程度，或者预先设定的学习次数为止。1.1BP算法内容
毕业设计开题报告 电气工程与自动化 非线性Hammerstein模型的辨识 一、选题的背景与意义 系统辨识是是现代控制理论中的一个重要分支。通过辨识建立数学模型的目的是估计表征系统行为的重要参数，建立一个能模仿真实系统行为的模型，用当前可测量的系统的输入和输出预测系统输出的未来演变，以及控制器的设计。非线性系统辨识是系统辨识的一个重要的发展方向，一直是现代辨识领域中的一个主要课题，对其研究有十分重要的理论和实际意义。非线性问题的主要困难之一是一直缺乏描述各种非线性系统特性的统一的数学模型。为此，人们提出了多种类型的模型，如块联模型]1[、神经网络模型]2[、双线性模型]3[、非线性参数模型等等。 Hammerstein模型属于块联模型，由一个线性动态系统跟随一个非线性静态模块构成。自从Narendra& Gallman 1966年提出了Hammerstein模型后]4[，由于模型结构简单且能有效地描述常见的非线性动态系统特性，所以许多学者相继研究了Hammerstein模型参数的估计方法，近年来Hammerstein模型被广泛地应用于非线性系统辨识。辨识Hammerstein模型的意义在于：利用辨识结果获得中间层输出，选择合适的性能指标，就可以把原非线性系统的控制问题分解为线性模块的动态优化问题和非线性模块的静态求根问题，因此可以有效结合线性模型预测控制的成熟理论解决这类非线性对象的控制问题，避免传统非线性控制方法计算量大，收敛性和闭环稳定性不能得到保证等诸多问题。 二、研究的基本内容与模拟解决的主要问题： 针对Hammerstein模型的辨识问题，可以归结为线性模块的动态优化问题和非线性模块的静态求根问题。因此研究的重点就是如何运用比较新颖的优化算法得到Hammerstein模型的参数解集，并能通过和传统算法的比较论证阐述采用方法的合理性，可行性及有效性。具体需要解决的问题包括以下几点： 1.什么是Hammerstein模型，它的基本结构式怎么样的； 2.确定Hammerstein非线性系统辨识的思想和实现方法； 3.熟悉PSO/BFO优化算法和熟悉最小二乘法估计方法；
最小二乘法参数辨识 201403027 摘要:系统辨识在工程中的应用非常广泛,系统辨识的方法有很多种,最小 二乘法是一种应用极其广泛的系统辨识方法.阐述了动态系统模型的建立及其最小二乘法在系统辨识中的应用,并通过实例分析说明了最小二乘法应用于系统辨识中的重要意义. 关键词:最小二乘法;系统辨识;动态系统 Abstract: System identification in engineering is widely used, system identification methods there are many ways， least squares method is a very wide range of application of system identification method and the least squares method elaborated establish a dynamic system models in System Identification applications and examples analyzed by the least squares method is applied to illustrate the importance of system identification. Keywords: Least Squares; system identification; dynamic system
引言 随着科学技术的不断发展,人们认识自然、利用自然的能力越来越强,对于未知对象的探索也越来越深入.我们所研究的对象,可以依据对其了解的程度分为三种类型:白箱、灰箱和黑箱.如果我们对于研究对象的内部结构、内部机制了解很深入的话,这样的研究对象通常称之为“白箱”;而有的研究对象,我们对于其内部结构、机制只了解一部分,对于其内部运行规律并不十分清楚,这样的研究对象通常称之为“灰箱”;如果我们对于研究对象的内部结构、内部机制及运行规律均一无所知的话,则把这样的研究对象称之为“黑箱”.研究灰箱和黑箱时,将研究的对象看作是一个系统,通过建立该系统的模型,对模型参数进行辨识来确定该系统的运行规律.对于动态系统辨识的方法有很多,但其中应用最广泛,辨识 效果良好的就是最小二乘辨识方法,研究最小二乘法在系统辨识中的应用具有现实的、广泛的意义. 1．1 系统辨识简介 系统辨识是根据系统的输入输出时间函数来确定描述系统行为的数学模型。现代控制理论中的一个分支。通过辨识建立数学模型的目的是估计表征系统行为的重要参数，建立一个能模仿真实系统行为的模型，用当前可测量的系统的输入和输出预测系统输出的未来演变，以及设计控制器。对系统进行分析的主要问题是根据输入时间函数和系统的特性来确定输出信号。对系统进行控制的主要问题是根据系统的特性设计控制输入，使输出满足预先规定的要求。而系统辨识所研究的问题恰好是这些问题的逆问题。通常，预先给定一个模型类μ={M}（即给定一类已知结构的模型），一类输入信号u和等价准则J=L(y，yM)(一般情况下，J是误差函数，是过程输出y和模型输出yM的一个泛函)；然后选择使误差函数J达到最小的模型，作为辨识所要求的结果。系统辨识包括两个方面：结构辨识和参数估计。在实际的辨识过程中，随着使用的方法不同，结构辨识和参数估计这两个方面并不是截然分开的，而是可以交织在一起进行的。 1.2系统辨识的目的 在提出和解决一个辨识问题时，明确最终使用模型的目的是至关重要的。它对模型类（模型结构）、输入信号和等价准则的选择都有很大的影响。通过辨识建立数学模型通常有四个目的。 ①估计具有特定物理意义的参数有些表征系统行为的重要参数是难以直接测量的，例如在生理、生态、环境、经济等系统中就常有这种情况。这就需要通过能观测到的输入输出数据，用辨识的方法去估计那些参数。 ②仿真仿真的核心是要建立一个能模仿真实系统行为的模型。用于系统分析的仿真模型要求能真实反映系统的特性。用于系统设计的仿真，则强调设计参数能正确地符合它本身的物理意义。 ③预测这是辨识的一个重要应用方面，其目的是用迄今为止系统的可测量的输入和输出去预测系统输出的未来的演变。例如最常见的气象预报，洪水预报，其他如太阳黑子预报，市场价格的预测，河流污染物含量的预测等。预测模型辨识的等价准则主要是使预测误差平方和最小。只要预测误差小就是好的预测
人工神经网络控制 摘要: 神经网络控制，即基于神经网络控制或简称神经控制，是指在控制系统中采用神经网络这一工具对难以精确描述的复杂的非线性对象进行建模，或充当控制器，或优化计算，或进行推理，或故障诊断等，亦即同时兼有上述某些功能的适应组合，将这样的系统统称为神经网络的控制系统。本文从人工神经网络，以及控制理论如何与神经网络相结合，详细的论述了神经网络控制的应用以及发展。 关键词: 神经网络控制；控制系统；人工神经网络 人工神经网络的发展过程 神经网络控制是20世纪80年代末期发展起来的自动控制领域的前沿学科之一。它是智能控制的一个新的分支，为解决复杂的非线性、不确定、不确知系统的控制问题开辟了新途径。是（人工）神经网络理论与控制理论相结合的产物，是发展中的学科。它汇集了包括数学、生物学、神经生理学、脑科学、遗传学、人工智能、计算机科学、自动控制等学科的理论、技术、方法及研究成果。 在控制领域，将具有学习能力的控制系统称为学习控制系统，属于智能控制系统。神经控制是有学习能力的，属于学习控制，是智能控制的一个分支。神经控制发展至今，虽仅有十余年的历史，已有了多种控制结构。如神经预测控制、神经逆系统控制等。 生物神经元模型 神经元是大脑处理信息的基本单元，人脑大约含1012个神经元，分成约1000种类型，每个神经元大约与102~104个其他神经元相连接，形成极为错综复杂而又灵活多变的神经网络。每个神经元虽然都十分简单，但是如此大量的神经元之间、如此复杂的连接却可以演化出丰富多彩的行为方式，同时，如此大量的神经元与外部感受器之间的多种多样的连接方式也蕴含了变化莫测的反应方式。 图1 生物神经元传递信息的过程为多输入、单输出，神经元各组成部分的功能来看，信息的处理与传递主要发生在突触附近，当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定强度，即超过其阈值电位后，突触前膜将向突触间隙释放神经传递的化学物质，突触有两
系统辨识综述 张培硕研4班 摘要：本文主要介绍了系统辨识中的非线性系统辨识方法，包括多层递阶辨识方法，以及把神经网络、模糊逻辑、遗传算法等知识应用于非线性系统辨识而得到的一些新型辨识方法，最后概括了非线性系统辨识未来的发展方向。 关键词：非线性系统辨识；多层递阶；神经网络 1 引言 系统辨识作为现代控制论和信号处理的重要内容，是近几十年发展起来的一门学科，它研究的基本问题是如何通过运行(或实验)数据来建立控制与处理对象(或实验对象)的数学模型。因为系统的动态特性被认为必然表现在它变化着的输入/输出数据之中，辨识就是利用数学方法从数据序列中提炼出系统的数学模型。 从本质上说，系统辨识是一种优化问题，当前常用辨识算法的基本方法是通过建立系统的参数模型，把辨识问题转化为参数估计问题。这类算法能较好地解决线性系统或本质线性系统的辨识问题，但若要应用于本质非线性系统则比较困难。可是，真实世界中的模型都不是严格线性的，它们或多或少都表现出非线性特性，因此越来越多的非线性现象和非线性模型己经引起了人们广泛的重视。 非线性系统广泛的存在于人们的生产生活中，随着人类社会的发展进步，越来越多的非线性现象和非线性系统已经引起研究者们的广泛关注，混沌现象的发现被誉为“ 二十世纪三大发现之一” 。目前关于非线性理论的研究正处于发展阶段。建立描述非线性现象和非线性系统的模型是研究非线性问题的基础。线性系统辨识理论已经趋于成熟，但一般的线性模型实际上是某些非线性被忽略或用线性关系代替后得到的对真实系统的近似数学描述。随着科学技术的迅猛发展，控制系统越来越复杂，对控制精度的要求越来越高，具有复杂非线性的系统不能用线性模型来近似，所以研究非线性系统辨识理论有着很重要的实际意义。 对于非线性系统参数模型的辨识问题，人们最早涉及的是某些特殊类型的非线性系统，如双线性系统模型、Hammerstain 模型、Wiener 模型、非线性时间序列模型、输出仿射模型等。针对每一类特殊模型，各国学者都作了大量的工作，提出了不少辨识算法。同时，也对这些算法的估计一致性问题进行了讨论。随着人们对非线性系统辨识问题研究的日益深入，更为一般的普适性非线性模型的辨识问题就显得日益重要。常用的非线性系统描述方法有微分(或差分)法、泛函级数法、NARMAX 模型法及分块系统法等。一些学者已经对非线性系统辨识方法进行了某方面的综述。例如，1965 年Arnold 和Stark 讨论了正交展开方法在非线性系统辨识中的应用，1968 年Aleksandrovskii 和Deich及1977 年Hung 和Stark综述了核辨识算法，1989 年Titterington 和Kitsos总结了非线性试验设计的最新发展，并列举了十五个在化工领域中常遇到的非线性模型。 本文对近年来新的非线性系统的辨识方法作以简单的综述。
文献2：Model selection approaches for non-linear system identification: a review X. Hong, R.J. Mitchell, S. Chen, C.J. Harris, K. Li and G .W. Irwin. International Journal of Systems Science, 2008,39(10): 925–946 非线性系统辨识模型选择方法综述 摘要：近20年来基于有限观测数据集的非线性系统辨识方法的研究比较成熟。由于可利用现有线性学习算法，同时满足收敛条件，目前深入研究和广泛使用的非线性系统辨识方法是一类具有万能逼近能力的参数线性化非线性模型辨识（linear-in-the-parameters nonlinear model identification ）。本文综述了参数线性化的非线性模型选择方法。非线性系统辨识最基本问题是从观测数据中识别具有最好模型泛化性能的最小模型。综述了各种非线性系统辨识算法中实现良好模型泛化性的一些重要概念，包括贝叶斯参数正规化，基于交叉验证和实验设计的模型选择准则。机器学习的一个显著进步，被认为是确定的结构风险最小化原则为基础的内核模式，即支持向量机的发展。基于凸优化建模算法，包括支持向量回归算法，输入选择算法和在线系统辨识算法。 1 引言 控制工程学科的系统辨识，是指从测量数据建立系统/过程动态特性的数学描述，以便准确预测输入未来行为。系统辨识2个重要子问题：（1）确定描述系统输入和输出变量之间函数关系的模型结构；（2）估计选定或衍生模型结构范围内模型参数。最初自然的想法是使用输入输出观测值线性差分方程。早期研究集中在线性时不变系统，近期线性辨识研究考虑连续系统辨识、子空间辨识、变量误差法（errors-in-the-variable methods ）。 模型质量重要测度是未知过程逼近的拟合精度。由于大多数系统在某种程度上说都是非线性的，非线性模型通常要求满足合格的建模性能。定义非线性离散系统输入)(t u ，输出)(t y ，训练数据集合N D ={}N t t y t u 1)(),(=，基本目标是找到 )()),(()(t e t X f t y +=θ （1） )(?f 未知，θ相关参数向量，噪声)(t e ，通常假设方差（2σ）恒定，满足独立的同分布（i.i.d.）特 性。模型输入[]T e u y n t e t e n t u t u n t y t y t X )(),1(),(),1(),(),1()(------= 。y n ，u n ，e n 分别为输出、输入和噪声的延迟。方程式（1）是NARMAX 模型表达式，代表一大类非线性系统。 由于大多数工业过程满足光滑连续特性，非线性函数)(?f 辨识等价于函数逼近，即用f ?代替f 函数。为了逼近函数，用户选择各种非线性建模方法[1]，如分段线性模型、有理多项式模型、Hammerstein/Wiener 模型、投影寻踪回归（PPR ）和多项式自适应回归样条（MARS ）、周期神经网络。逼近论中，一种通用函数表示方法是非线性基函数的线性组合。具有参数线性化结构、表示非线性输入输出关系模型表达式 ∑==m i i i t X t X f 1))(()),((?θφθ （2） ((t X i φ为已知非线性基函数映射，例如RBF 或者B 样条函数，i θ未知参数，m 模型中基函数个 数。参数线性化模型具有适合自适应学习的良好结构，具有可证明的学习和收敛条件，具备并行处理能力，明确的工程应用[2]。然而，非线性系统辨识中仍然存在一些重大挑战和障碍： （1）模型的泛化性 采用有限数据辨识模型，不仅要求模型训练精度较好，同样要求模型测试精度良好。由于)(?f 未知，
开题报告 电气工程与自动化 非线性Hammerstein模型的辨识 一、选题的背景与意义 系统辨识是是现代控制理论中的一个重要分支。通过辨识建立数学模型的目的是估计表征系统行为的重要参数，建立一个能模仿真实系统行为的模型，用当前可测量的系统的输入和输出预测系统输出的未来演变，以及控制器的设计。非线性系统辨识是系统辨识的一个重要的发展方向，一直是现代辨识领域中的一个主要课题，对其研究有十分重要的理论和实际意义。非线性问题的主要困难之一是一直缺乏描述各种非线性系统特性的统一的数学模型。为此，人们提出了多种类型的模型，如块联模型]1[ 、神经网络模型、双线性模型、非线性参数模型等等。 ]2[]3[ Hammerstein模型属于块联模型，由一个线性动态系统跟随一个非线性静态模块构成。自从Narendra& Gallman 1966年提出了Hammerstein模型后，由于模型结构简 ]4[ 单且能有效地描述常见的非线性动态系统特性，所以许多学者相继研究了Hammerstein 模型参数的估计方法，近年来Hammerstein模型被广泛地应用于非线性系统辨识。辨识Hammerstein模型的意义在于：利用辨识结果获得中间层输出，选择合适的性能指标，就可以把原非线性系统的控制问题分解为线性模块的动态优化问题和非线性模块的静态求根问题，因此可以有效结合线性模型预测控制的成熟理论解决这类非线性对象的控制问题，避免传统非线性控制方法计算量大，收敛性和闭环稳定性不能得到保证等诸多问题。 二、研究的基本内容与模拟解决的主要问题： 针对Hammerstein模型的辨识问题，可以归结为线性模块的动态优化问题和非线性模块的静态求根问题。因此研究的重点就是如何运用比较新颖的优化算法得到Hammerstein模型的参数解集，并能通过和传统算法的比较论证阐述采用方法的合理性，可行性及有效性。具体需要解决的问题包括以下几点： 1.什么是Hammerstein模型，它的基本结构式怎么样的； 2.确定Hammerstein非线性系统辨识的思想和实现方法； 3.熟悉PSO/BFO优化算法和熟悉最小二乘法估计方法；
第38卷第1期 振动与冲击 JOURNAL OF VIBRATION AND SHOCK Vol.38No.1 2019 关于非线性系统辨识的恢复力曲面法和希尔伯特变换法 袁天辰杨俭陈立群2,3,4 (1.上海工程技术大学城市轨道交通学院，上海201620; 2.上海大学理学院力学系，上海200444; 3.上海大学上海市应用数学和力学研究所，上海200072; 4.上海大学上海市力学在能源工程中的应用重点实验室，上海200072) 摘要：针对均匀薄板和压电双晶薄板进行了非线性辨识实验，比较了两种方法一恢复力曲面法和希尔伯特变 换法。针对辨识数据的函数逼近问题，提出将位移-刚度函数而非位移-恢复力函数用于数据拟合。通过均匀薄板和压电 双晶薄板的实验结果，验证了位移-刚度函数确实能提高小位移处的函数逼近精度并更加准确展现系统的非线性特性。 还对比了恢复力曲面法和希尔伯特变换法在辨识精度和数据利用率方面的区别，结果显示希尔伯特变换法能有效抑制小 位移处位移-刚度曲线的不规则振荡，并有着较高的数据利用率。 关键词：非线性；系统辨识；希尔伯特变换；实验 中图分类号：T H17$T H133.3 文献标志码：A DOI：10.13465/https://www.doczj.com/doc/ec6825662.html,ki.jvs.2019. 01.011 Restoring force surface methodand Hilbert transform one for nonlinear system identification YUAN Tianchen1 , YANG Jian1 , CHEN Liqim2,3,4 (1.School o f Urban Railway Transportation，Shanghai University o f Engineering Science，Sha 2.Department of Mechanics，School o f Sciences，Shanghai University，Shanghai200444，China； 3.Shanghai I n s t i t u t e o f Applied Mathematics and Mechanics，Shanghai University，Shangha 4.Shanghai Municipal Key Lab o f Mechanics Applied i n Energy Engineering，Shanghai Universi Abstract#Two nonlinear system identification metliods including the restoring force surface metliod and Hilbert transform one were compared based on experiments of a homogeneous plate and a piezoelectric bimo displacement function was proposed to be used for data f i t ting instead of the restoring for function approximation process.T he experiment results of a homogeneous plate and a piezoelectric bimorjDh one showed that using the stiffness-displacement function can improve the function approximation accuracy a t identification accuracy and data utilization rate obtained by the restoring force surface method were obtained by Hilbert transform one.The results showed that Hilbert transform method can effectively suppress irregular oscillations of the stiffness-displacement curve at small displacements，and i t has a higher data utilization rate. K e y words：nonlinearity；system identification；HillDert transform；experiment 非线性系统辨识受到越来越多的研究者的关注，通过系统辨识可以获得结构在大幅振动下的精确模 型，这些方法主要分为频域方法和时域方法两大类。典型的非线性系统的频域辨识方法有Volterra和 Wienei?级数[1]、多尺度法M M S*2]和谐波平衡法H B M[3]。与频域方法相比，时域方法需要的数据量较 少，但容易受到数据噪声的干扰[4]。时域方法中的恢 基金项目：国家自然科学基金（51575334; 11802170; 11232009) 收稿日期：2017 -03 -29修改稿收到日期：2017 -09 -25 第一作者袁天辰男，博士，讲师,1988年生 通信作者陈立群男，博士，教授,1962年生复力曲面法（或称为力-状态映射法）[5]和基于希尔伯 特变换的辨识方法[6-]不需要事先确定非线性恢复力 的形式，是纯粹的非参数识别方法，在系统辨识的过程 中得到较广泛的应用。 恢复力曲面法通过构建恢复内力、速度和位移之 间的三维点集，利用切比雪夫多项式拟合恢复力曲面 或者利用截面法分离出其中的弹性恢复力和阻尼恢复 力。基于希尔伯特变换的辨识方法，利用系统的自由 振动或受迫振动响应，通过解析信号得到待辨识系统 刚度和阻尼函数的表达式，构建响应信号的包络幅值 和待识别系统刚度或阻尼函数之间的关系，达到辨识 系统非线性刚度或阻尼函数的目的。然而该方法在辨
基于神经网络模型的最新系统辨识算法 摘要：神经网络具有大规模并行分布式结构、自主学习以及泛化能力，因此可以利用神经网络来解决许多传统方法无法解决的问题。神经网络应用在非线性系统的辨识中有良好的结果。本文在阅读大量参考文献的基础上，对最新的基于神经网络的系统辨识算法进行总结。 关键字：神经网络；系统辨识；辨识算法 The latest algorithm about identification system based on neural network model Abstract: Neural network has large parallel distributed structure, learning by itself and has generalization ability. So neural network is used to solve many questions which traditional method cannot. Neural network is well applied to nonlinear system which has got good achievements in identification system. Based on most of documents, the paper summaries the latest algorithm about identification system based on neural network model. Keywords:Neural network, identification system, identification algorithm 0 前言 在国内，系统辨识也取得了许多成绩，尽管成果丰硕，但传统辨识法仍存在不少局限：传统辨识法较适用于输入端中扰动水平比较低的控制系统，对于具有外界干扰的控制系统，就会出现计算量大、鲁棒性不够好的问题；最小二乘法及其相关改进算法一般利用梯度算法进行信息搜索，容易陷入局部极小值。鉴于此，神经网络控制在系统辨识中得到了新的应用。本文在阅读大量文献后，针对国内基于神经网络的结合其他算法的最新辨识算法进行综述分析。 1 神经网络的应用优势 神经网络的吸引力在于：能够充分逼近任意复杂的非线性关系，能够学习适应不确定性系统的动态特性；所有定量或定性的信息都分布储存于网络内的各个神经元，所以有很强的鲁棒性和容错性；采用并行分
《系统辨识》第1讲要点 ●引言 课程名称：系统辨识（System Identification） 现代控制论：辨识、状态估计和控制理论 什么是辨识(Identification)? System Identification系统辩识，又译为“系统识别”和“系统同定”，目前尚无公认的统一定义。《中国大百科全书》中记述为：系统辩识是根据系统的输入/输出时间函数，确定系统行为的数学模型，是现代控制理论的一个分支（中国大百科自动控制卷486-488页）。 (1) 辨识是研究建立系统或生产过程数学模型的一种理论和方法。 (2) 辨识是从含有噪声的测量数据（输入、输出数据）中提取被研究 对象数学模型的一种统计方法。 (3) 辨识模型是对象输入输出特性在某种准则意义下的一种近似。近 似的程度取决于人们对系统先验知识的认识和对数据集性质的了 解程度，以及所选用的辨识方法是否合理。 (4) 辨识技术帮助人们在表征被研究的对象、现象或系统、过程的复 杂因果关系时，尽可能准确地确立它们之间的定量依存关系。 (5) 辨识是一种实验统计的建模方法。
通俗地说，系统辩识是研究怎样利用对未知系统的试验数据或在线运行数据（输入/输出数据）建立描述系统的数学模型的科学。钱学森把系统广义概括为“依一定顺序相互联系着的一组事物”。“系统辩识” 是“系统分析”和“控制系统设计”的逆问题。基于实际系统的复杂性，描述其特性的数学模型具有“近似性”和“非唯一性”；辩识方法亦有多样性。没有绝对好的数学模型和绝对好的辩识方法。什么是较好的模型？依据辩识的不同目的，有不同答案。一般说，能够满足目的要求的，比较简单的模型，是较好的模型。 ●课程内容 第一部分：理论教学（共54学时） 第1章辨识的一些基本概念（3学时）内容：系统和模型概念、建模方法、辨识定义、辨识问题的 表达形式、辨识算法的基本原理、误差准则、辨识的内 容和步骤、辨识的应用。 第 2 章随机信号的描述与分析（3学时）内容：随机过程的基本知识、相关函数、协方差函数、谱密度 函数、线性过程在随机输入下的响应、白噪声及其产生 方法、M序列及其性质。 第 3章过程的数学描述（3学时）内容：连续系统的输入输出模型、离散系统的输入输出模型、 数学模型之间的等价变换、噪声模型及其分类。
系统辨识概述 一、系统的定义 在科技中，系统规定为实现规定功能以达到某一目标而构成的相互关联的一个集合体或装置(部件)。 根据百度名片，系统泛指由一群有关连的个体组成，根据预先编排好的规则工作，能完成个别元件不能单独完成的工作的群体。系统分为自然系统与人为系统两大类。 而著名科学家钱学森则认为系统是由相互作用相互依赖的若干组成部分结合而成的，具有特定功能的有机整体，而且这个有机整体又是它从属的更大系统的组成部分。 一般系统论创始人贝塔朗菲将系统定义为：“系统是相互联系相互作用的诸元素的综合体”。这个定义强调元素间的相互作用以及系统对元素的整合作用。可以表述为： 如果对象集S满足下列两个条件， （1）S中至少包含两个不同元素 （2）S中的元素按一定方式相互联系 则称S为一个系统，S的元素为系统的组分。 这个定义指出了系统的三个特性：多元性，整体性和相关性。二、系统辨识中的相关概念 系统辨识的定义：利用实验手段确定被研究系统特性（系统模型）的方法。 1956年，由美国L A Zadeh第一次提出“辨识”（Identification）
这个名词。1962年，Zadeh给出“系统辨识”的定义为：“系统辨识是在对辨识系统进行输入、输出观测而获得其输入、输出数据的基础上，从一组设定的模型类中，确定一个与被辨识系统等价的数学模型。” 1978年，由瑞典L Ljung 进一步给出“系统辨识”的实用定义为：“系统辨识是在模型类中，按照某种准则，选择一个与被辨识系统的观测数据拟合得最好的模型。”因而明确了“系统辨识”的三大要素： （1）输入、输出数据，通过实验获得 （2）模型类，选择模型结构 （3）最优准则，确定优化指标函数 系统辨识是建模的一种方法，不同的学科领域，对应着不同的数学模型。从某种意义上来说，不同学科的发展过程就是建立他的数学模型的过程。在这中间，就涉及到一个系统模型的问题。模型就是按照过程的目的所作的一种近似的描述。其含义为： （1）表征过程的因果关系。 （2）描述过程的运动规律。 （3）把过程本质的部分压缩成有用的描述形式。 模型所反映的内容将因其使用的目的而不同。 模型类别有多种，如直觉模型、概念模型、结构模型、层次模型、物理模型、图表模型、数学模型、辨识模型等。系统辨识主要考虑描述系统运动规律的数学模型。
四、神经网络系统辨识分析（25分） 用BP 神经网络进行系统在线逼近的原理框图如图3所示 ) (k y n (k u (k y 图3 图4 假设某控制对象的模型为2 3 )1(1) 1()()(-+-+ =k y k y k u k y ，采样时间取t=1ms ，输入信号 t)sin(650.)u(π=k 。采用的BP 神经网络结构如图4所示，权值ij w 和2j w 的初值取 [-1，+1] 之间的随机值，权值采用δ学习算法，学习速率η取0.50，动量因子α取0.05。试分析神经网络在线逼近的运行过程，并作Matlab 仿真。 题目四、需要阐述清楚BP 网络逼近控制对象的工作原理和学习过程 BP 算法的基本思想是：对于一个输入样本,经过权值、阈值和激励函数运算后，得到一个输出y n (k)，然后让它与期望的样本y(k)进行比较，若有偏差，则从输出开始反向传播该偏差，进行权值、阈值调整，使网络输出逐渐与希望输出一致。 BP 算法由四个过程组成：输入模式由输入层经过中间层向输出层的“模式顺传播”过程，网络的希望输出与网络的实际输出之间的误差信号由输出层经过中间层向输入层逐层修正连接权的“误差逆传播”过程，由“模式顺传播”与“误差逆传播”的反复交替进行的网络“记忆训练”过程，网络趋向于收敛即网络的全局误差趋向极小值的 “学习收敛”过程。 BP 网络（Back Propagation ），该网络是一种单向传播的多层前向网络。误差 反向传播的BP 算法简称BP 算法，其基本思想是梯度下降法。它采用梯度搜索技术，以期使网络的实际输出值与期望输出值的误差均方值为最小。 BP 网络特点: （1）是一种多层网络，包括输入层、隐含层和输出层； （2）层与层之间采用全互连方式，同一层神经元之间不连接； （3）权值通过δ学习算法进行调节；
2.描述用随机信号测试线性系统的动态响应的原理与方法。
用伪随机噪声作为输入测试系统的动态响应： 伪随机信号的自相关函数是周期为T 的周期函数，其互相关函数为：......)()(.....)()()()()(20+++=+-+-=??ττσστσσστστT kg kg d R g d R g R T T x T x xy T ＞系统的脉冲响应时间时，)(τ+T g =0，…，则)()(ττkg R xy =，与白噪声作输入信号时结果相同，但此处)(τxy R 的计算只需在0～T 一个周期的时间内进行。这就是采用伪随机信号测试系统动态特性的优越性。 用随机信号测试线性系统的动态响应的原理是相关滤波原理 利用随机信号测试线性系统的动态特性的理论基础是维纳一霍夫积分方程，即 ?∞ ∞--=σστστd R g R x xy )()()( =)()(ττx R g * 当系统输出端存在干扰)(t n 时，系统的实际输出y(t)与输入x(t)的互相关函数为： )()()]}()()[({)}()({)(ττττττxn xz xy R R t n t z t x E t y t x E R +=+++=+= 为了测试系统的动态响应特性，选用与测量噪声n(t)无关的激励信号x(t)，即x(t)与n(t)无关，故其互相关函数)(τxn R =0，所以)()(ττxz xy R R =，即实际输入与输出(带测量噪声)的互相关函数)(τxy R 等价于真实输入与输出(不带测量噪声)
的互相关函数)(τxz R 。这就是相关滤波原理。利用相关滤波原理测试测试线性系统的动态响应的突出优点是抗干扰能力强。 用白噪声作为输入测试系统的动态响应： 维纳一霍夫积分方程变为： )()()()()()(00τσστδσσστστkg d k g d R g R x xy =-=-=??∞ ∞ 可见，当输入为自噪声时，系统输入输出的互相关函数)(τxy R 与脉冲响应函数)(τg 成正比。白噪声输入时对系统的正常工作影响不大，但要求较长的观测时间。 用伪随机噪声作为输入测试系统的动态响应： 伪随机信号的自相关函数是周期为T 的周期函数，其互相关函数为：......)()(.....)()()()()(20+++=+-+-=??ττσστσσστστT kg kg d R g d R g R T T x T x xy T ＞系统的脉冲响应时间时，)(τ+T g =0，…，则)()(ττkg R xy =，与白噪声作输入信号时结果相同，但此处)(τxy R 的计算只需在0～T 一个周期的时间内进行。这就是采用伪随机信号测试系统动态特性的优越性。 3. 为什么说最小二乘法是系统辨识的基本方法，该方法的主要特点是什么？ 最小二乘法是一种经典的数据处理方法，在系统辨识和参数估计领域中有着广泛应用。既可用于动态系统也可用于静态系统，既可用于线性系统也可用于非线性系统。既可用于离线估计也可用于在线估计，既可用于参数模型的辨识也可用于非参数模型的辨识。系统辨识中的许多估计算法不能解决问题时，都可以用最小二乘法的步骤来解释，在原则上可以将许多辨识方法与最小二乘法组合便于统一处理，所以说最小二乘法是系统辨识的基本方法。 主要特点：利用最小二乘法时，计算原理简单，容易理解，不要求观测数据提供其概率统计方面的信息，而其估计结果却在一个比较实际而广泛的条件下有着最佳的统计学特性：即一致性、无偏性和有效性。 4.结合所从事的研究工作，阐述系统辨识技术的实际应用 在自动控制系统中，对所研究的较复杂的对象往往要求通过观测和计算来定量地判明其内在规律，为此必须建立所研究对象的数学模型，从而进行分析、设计、预测、控制的决策。有些被控对象由于其复杂性，很难用理论分析的方法得到数学模型，而系统辨识技术就是要确定被控对象的数学模型问题，由此在自动
２００７，４３（３１）神经网络辨识器 被辨识系统 ｙ（ｋ）ｅ （ｋ）ｙ !（ｋ）ｕ （ｋ）－ ＋图１系统辨识原理框图 １引言 动态系统的控制通常需要在无需预先知道精确的对象和 环境知识时便能实现，因此寻求适当的方法以解决不确定性的、高度复杂的动态系统辨识是控制理论研究的一个重要分支。神经网络是由大量处理单元广泛互连而成的网络，具有大规模并行模拟处理能力和很强的自适应、自组织、自学习能力，因而近年来在系统建模、辨识与控制中受到普遍重视。在自动控制领域，基于线性系统理论对被控系统进行辩识并修正参数的方法能较好地应用于线性系统，但很难推广到复杂的非线性系统。神经网络所具有的非线性变换特性和高度并行运算能力为系统辨识，尤其是非线性系统的辨识提供了有效的方法。 目前，系统辩识中应用最多的是多层前向网络，多层前向网络具有逼近任意连续非线性函数的能力，但这种网络结构一般是静态的，而人们更关心控制系统的动态特性，这恰恰是ＢＰ神经网络等前馈网络所缺乏的。与静态前馈型神经网络不同，动态递归网络通过存储内部状态，使其具备映射动态特征的功能，从而使系统具有适应时变特性的能力，更适合于非线性动态系统的辩识。动态递归神经网络是控制系统建模和辨识中极具发展潜力的网络，本文利用改进的动态递归Ｅｌｍａｎ神经网络实现对非线性动态系统的辨识。 ２神经网络非线性系统辨识原理 假定拟辨识对象为非线性离散时间系统，或者可以离散化 为这样的系统，用ＮＡＲＭＡ模型来描述： ｙ（ｋ）＝ｆ（ｙ（ｋ－１），…，ｙ（ｋ－ｎ），ｕ（ｋ－１），…，ｕ（ｋ－ｍ））（１） 式中，ｎ、ｍ分别为模型输出ｙ（ｔ）和输入ｕ（ｔ）的阶次，ｆ（? ）是非线性函数。 如果ｆ（? ）未知时，不确定系统的辨识问题可以描述为寻求一数学模型，使得模型的输出ｙ!（?）和被辨识系统的输出ｙ（?） 尽量接近。神经网络具有通过恰当选择网络层次和隐层单元数，能够以任意精度逼近任意连续非线性函数的特性，因此可作为辨识模型，用来对非线性系统进行辨识。 由图１所示的系统辨识原理可以看出，辨识模型和被辨识 系统具有相同的输入，定义误差ｅ（ｋ）＝ｙ!（ｋ）－ｙ（ｋ），用于对神经 网络进行学习和修正。 基于Ｅｌｍａｎ神经网络的非线性动态系统辨识 高钦和１，２，王孙安１ ＧＡＯＱｉｎ－ｈｅ１，２，ＷＡＮＧＳｕｎ－ａｎ１ １．西安交通大学机械工程学院，西安７１００２８２．第二炮兵工程学院，西安７１００２５ １．ＳｃｈｏｏｌｏｆＭｅｃｈａｎｉｃａｌＥｎｇｉｎｅｅｒｉｎｇ，Ｘｉ’ａｎＪｉａｏｔｏｎｇＵｎｉｖｅｒｓｉｔｙ，Ｘｉ’ａｎ７１００２８，Ｃｈｉｎａ２．ＳｅｃｏｎｄＡｒｔｉｌｌｅｒｙＥｎｇｉｎｅｅｒｉｎｇＣｏｌｌｅｇｅ，Ｘｉ’ａｎ７１００２５，ＣｈｉｎａＥ－ｍａｉｌ：ｇａｏ２０２＠ｙａｈｏｏ．ｃｏｍ．ｃｎ ＧＡＯＱｉｎ－ｈｅ，ＷＡＮＧＳｕｎ－ａｎ．ＩｄｅｎｔｉｆｉｃａｔｉｏｎｏｆｎｏｎｌｉｎｅａｒｄｙｎａｍｉｃｓｙｓｔｅｍｂａｓｅｄｏｎＥｌｍａｎｎｅｕｒａｌｎｅｔｗｏｒｋ．Ｃｏｍｐｕｔｅｒ ＥｎｇｉｎｅｅｒｉｎｇａｎｄＡｐｐｌｉｃａｔｉｏｎｓ，２００７，４３ （３１）：８７－８９．Ａｂｓｔｒａｃｔ：Ｔｈｅｔｈｅｏｒｙａｎｄｍｅｔｈｏｄｏｆｄｙｎａｍｉｃｓｙｓｔｅｍｉｄｅｎｔｉｆｉｃａｔｉｏｎｂｙｄｙｎａｍｉｃｒｅｃｕｒｒｅｎｔｎｅｕｒａｌｎｅｔｗｏｒｋａｒｅｓｔｕｄｉｅｄ．Ａｎｉｍｐｒｏｖｅｄ Ｅｌｍａｎｎｅｕｒａｌｎｅｔｗｏｒｋｉｓｓｕｃｃｅｓｓｆｕｌｌｙｕｓｅｄｔｏｉｄｅｎｔｉｆｙｔｈｅｎｏｎｌｉｎｅａｒｄｙｎａｍｉｃｓｙｓｔｅｍｅｖｅｎｔｈｏｕｇｈｗｉｔｈｏｕｔａｎｙｐｒｉｏｒｉｎｆｏｒｍａｔｉｏｎｏｆｉｄｅｎｔｉｆｉｅｄｓｙｓｔｅｍ．ＳｉｍｕｌａｔｉｏｎｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅＥｌｍａｎｎｅｕｒａｌｎｅｔｗｏｒｋｈａｓｈｉｇｈｅｒｌｅａｒｎｉｎｇｓｐｅｅｄａｎｄｂｅｔｔｅｒｇｅｎｅｒａｌｉｚａｔｉｏｎａｂｉｌｉｔｙｔｈａｎｔｈｅｆｅｅｄｆｏｒｗａｒｄｎｅｕｒａｌｎｅｔｗｏｒｋ，ａｎｄｔｈａｔｉｔｉｓｓｕｉｔａｂｌｅｆｏｒｔｈｅｎｏｎｌｉｎｅａｒｄｙｎａｍｉｃｓｙｓｔｅｍｉｄｅｎｔｉｆｉｃａｔｉｏｎ． Ｋｅｙｗｏｒｄｓ：ｎｏｎｌｉｎｅａｒｓｙｓｔｅｍｉｄｅｎｔｉｆｉｃａｔｉｏｎ；ｄｙｎａｍｉｃｓｙｓｔｅｍ；ｄｙｎａｍｉｃｒｅｃｕｒｒｅｎｔｎｅｕｒａｌｎｅｔｗｏｒｋ；Ｅｌｍａｎｎｅｕｒａｌｎｅｔｗｏｒｋ 摘 要：研究了应用动态递归神经网络实现动态系统辨识的原理和方法，在没有被辨识对象的先验知识情况下，通过改进的Ｅｌ－ ｍａｎ网络实现了非线性动态系统的辨识。 仿真结果表明，与前馈网络相比，Ｅｌｍａｎ网络具有学习速度快、泛化能力强的特点，可用较小的网络结构实现高阶系统的辨识，适用于具有本质非线性动态系统的辨识。关键词：非线性系统辨识；动态系统；动态递归神经网络；Ｅｌｍａｎ网络文章编号：１００２－８３３１（２００７）３１－００８７－０３ 文献标识码：Ａ 中图分类号：ＴＰ１８３ 作者简介：高钦和（１９６８－），男，西安交通大学博士后，第二炮兵工程学院副教授，主要研究方向为发射系统仿真与自动检测；王孙安（１９５７－），男， 教授，博士，主要研究方向为机电系统与工业过程的计算机智能监控。 ＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇａｎｄＡｐｐｌｉｃａｔｉｏｎｓ计算机工程与应用８７