神经网络系统辨识综述
目前，国内外有许多利用神经网络来模拟设备性能、预测负荷的成功例子。1993 年，美国的Mistry和Nair成功开发了一个用来决定预期平均满意率(PMV)和温湿度参数的神经网络模型。1994 年，Curtiss利用神经网络模型成功地模拟了一台往复压缩式的冷水机组和其它暖通空调设备的性能。随后，Darred和Curtiss利用神经网络模型成功地预测了冷水机组的冷负荷和耗电量。在国内，也有利用神经网络对暖通空调优化控制、对空调器进行仿真研究的成功例子。神经网络之所以能够在国内外得到如此广泛的应用是因为：
a)神经网络具有模拟高度非线性系统的优点；
b)神经网络具有较强的学习能力、容错能力和联想能力；
c)神经网络具有较强的自适应能力。
例如可通过重新训练网络进行设备特性的动态校准功能，这也是它优于其它控制方法的主要特点。此外，神经网络模型还具有建模时间短、易于进行计算机模拟的优点。对于智能建筑，其热动力学参数模型本质上为分布参数系统，应用系统辨识也很难获得其精确的数学模型，控制效果可想而知，而人工神经网络允许在模型理论不完善的情况下，构成一种具有自学习、自适应的体系结构，在与外界信息的交互作用中，形成一种非线性映射或线性动力学系统，以正确反映输入和输出关系而不必预先知道这种关系的精确数学模型。
神经网络在线性系统辨识中的应用
自适应线性(Adaline-Mada Line)神经网络作为神经网络的初期模型与感知机模型相对应，是以连续线性模拟量为输入模式，在拓扑结构上与感知机网络十分相似的一种连续时间型线性神经网络。这种网络模型是美国学者Widrow和Hoff
于1960 年提出的，简称Adaline网络，它主要用于自适应系统等连续可调过程，还可以用于天气预报、语言识别、心电图诊断、图像分析等领域。由于该网络能逼近任意连续的线性函数，因此该网络可用于线性系统辨识，具体的方法是：将连续输入信号的采样值经不同延时后，作为网络的输入模式，被辨识系统数据量的采样值作为网络的希望输出模式。Adaline网络的各连接权实际上就是被测系统微分方程中各阶导数的系数。随着网络学习过程的进行，这些系数逐渐逼近系统的真实值，直至得到系统的数学模型。除此网络之外，还有其它神经网络可以通近任意的线性和非线性系统。其中以Hopfield网络(HNN)为代表的反馈型神经网络在联想记忆或分类、优化计算、人工智能等领域得到了广泛的研究与应用。由于HNN可以通过VLS等硬件物理实现，这有利于充分发挥神经网络固有的信息并行处理能力。这种潜在的应用前景引起了控制界的极大兴趣，为神经网络在系统辨识方面研究工作的开展提供了动力。可以说，线性系统辨识的理论和方法已经比较成熟和完善。
神经网络在非线性系统辨识中的应用
人工神经网络已在各个领域得到广泛应用，尤其是在智能系统中的非线性建模及控制器的设计、模式分类与模式识别、联想记忆和优化计算等方面得到人们的极大关注。从控制理论的观点来看，神经网络对非线性函数的逼近能力是最有意义的，因为非线性系统的变化多端是采用常规方法无法建模和控制的基本原因，而神经网络描述非线性函数的能力，也就是对非线性系统的建模能力，正适合于解决非线性系统建模与控制器综合中的这些问题。具有这一特性的多层前馈神经网络在实际应用中的比例要占所有人工神经网络应用的百分之八十以上。自前向神经网络BP算法提出以来，己在控制界和其它领域得到广泛应用。由于BP算法学
习速度慢，容易陷入局部极小值，网络隐含层的层数及隐含层的单元数的选取尚无理论上的指导，而是根据经验确定；同时网络的学习、记忆具有不稳定性。一个训练结束的BP网络，当给它提供新的记忆模式时，将使己有的连接权打乱，导致记忆模式的信息丢失。要避免这种现象，必须将原来的学习模式连同新加入的学习模式一起重新进行训练。针对上述各种缺陷，迄今已提出大量改进算法。如采用自适应调整学习速率加快BP算法的收敛速度，采用变动量因子改善学习效果。但研究表明，单纯改变学习速率或动量因子对改善学习效果均有一定的局限性，有时甚至不如基本BP算法。以上算法均是针对BP算法收敛速度慢而提出来的。对于BP算法存在的局部极小值问题，也有许多改进的算法，如模拟退火法、Alopex算法、遗传算法、粒子群算法等，这些算法都是随机化的批量算法，不易在线执行。其中递推最小二乘(RLS)技术应用于多层前馈网络的训练，能得到全局最优解，并易于在线执行，但算法在执行过程中，计算量和存储量都远超过基本BP算法，给具体应用带来了困难。
从上可以看出，每一种算法都有各自的优缺点。因此，对于前馈神经网络来说，在前面这些学习算法的基础上，还需要改进或研究一些新的容易实现的算法，在算法的复杂度增加不多的情况下，来不断提高辨识精度、加快网络的收敛性，更好地满足日益复杂的非线性系统辨识需要。最初，应用于系统辨识的神经网络都是静态的前馈网络，而对于实际的控制系统来说，被控对象一般都是一个动力学系统，所以，只能采用所谓的“外部抽头延迟线”反馈的方法，来建模和控制动力学系统。这就需要知道动力学系统的阶或延迟，显然这不能适用于所有的动力学系统。因此，对于动力学系统的建模和控制，需要研究动态的递归神经网络。这正是目前神经网络的研究方向之一。对于递归网络的研究，现在提出了许多网
络结构。虽然在网络内部引入反馈的方式各种各样，但都是力图以尽量简单的形式使整个网络能够描述非线性动力学信息，并应用于非线性动力学对象的辨识和控制设计，大多数的递归网络是通过在前馈网络内部引入反馈构成的，学习算法一般采用最速下降法。因此递归网络存在的问题有：
（1）不能保证权值收敛到误差函数的全局最小；
（2）稳定性问题。
基于梯度下降的连续学习算法，由于依赖梯度的瞬时估计，一般是很慢的。最近，有人将递归网络的监督训练看作是最优滤波问题，可以克服这个严重的局限，它的方法是以回溯到学习过程的第一次迭代的方式递归利用包含在训练数据中的信息，但是，它是以增加算法的复杂度为代价的。另外，在优化理论中新近发展的遗传算法(Genetic Algorithm，简称GA算法)，它是一种全局随机寻优算法，通过模仿生物进化的过程来逐步获得最好的结果。而且它需要的信息量少，具有全局寻优、并行性、速度快和不需要目标函数可微或连续等优点，是一类比较有前景的神经网络学习算法，利用它的强全局寻优能力可以防止神经网络陷入局部极值。Kennedy和Eberhart于 1995 年提出了一类新型的随机全局优化算法一粒子群优化算法(Particle Swarm Optimization Algorithm,简称PSO法)，它没有遗传算法的交叉变异操作，而是根据自己的速度来决定搜索，每一个粒子都有记忆，其算法比较简单，是一类有着潜在竞争力的神经网络学习算法。总之与前馈网络相比，递归网络的结构比较复杂，无论是对它的网络结构还是学习算法，都有很多问题有待进一步研究。
神经网络动态系统的辨识与控制 摘要： 本论文表明神经网络对非线性动态系统进行有效的辨识与控制。本论文的侧重点是辨识与控制模型，并论述了动态反向传播以及静态反向传播方法在参数调节中的作用。在所介绍的模型中，加法器与重复网络结构的内部相连很独特，所以很有必要将他们统一起来进行研究。由仿真结果可知辨识与自适应控制方案的提出是可行的。整篇论文中都介绍到基本的概念和定义，也涉及了必须提出的学术性问题， 简介 用数学系统理论处理动态系统的分析与合成在过去的五十年里已经被列为应用广泛的权威科学原理了。权威系统理论最先进的地方定义于基于线性代数以及复合变量理论的先进技术线性操作器以及线性常微分方程。由于动态系统的设计技术与它们的稳定特性密切相关，线性时间不变系统的充分必要条件在上世纪已经产生了，所以已经建立了动态系统的著名设计方法。相反，只要在系统对系统基础上就可以基本上建立非线性系统的稳定性，因此对于大部分系统没有同时满足稳定性、鲁棒性以及良好动态响应的设计程序并不希奇。 过去三十年来，对线性、非时变和具有不确定参数的对象进行辨识与自适应控制的研究已取得了很大的进展。但是在这些研究中辨识器和控制器的结构选取和保证整个系统全局稳定性的自适应调参规律的构成等，都是建立在线性系统理论基础上的[1]。在本论文中，我们感兴趣的是神经网络非线性动态系统的控制与辨识。由于很少有可以直接应用的非线性系统理论结果存在，所以必须密切关注这个问题以及辨识器和控制器结构的选择和调整参数适应性规则的通用性问题。 在人工神经网络领域里，有两类网络今年来最引人注目：它们是（1）多层神经网络（2）回归神经网络。多层神经网络被证实在解决模式辨识问题[2]-[5]上非常成功。而回归神经网络则经常用于联想记忆以及制约优化问题的解决[[6]-[9]。从系统理论的观点来看，多层网络呈现静态非线性映射，而回归网络则通过非线性动态反馈系统显现。尽管两种网络存在外观上的不同外，但是很有必要将他们用统一成更一般化的网络。事实上，笔者确信将来会越来越多的用到动态因素以及反馈，这导致包括两种网络的复杂系统的产生。这样，将两个网络统一起来就成为必要。在本文的第三章，这个观点会得到进一步的阐述。 本文用了三个主要目标。第一个也是最重要的一个目标是在未知非线性动态系统中为自适应控制利用神经网络提出辨识以及控制器结构。当未知参数线性系
神经网络在系统辨识中的应用 摘要应用于自动控制系统的神经网络算法很多，特点不一，对于非线性系统辨识的研究有一定影响。本文就BP网络算法进行了着重介绍，并点明了其收敛较慢等缺点，进而给出了改进算法，说明了建立在BP算法基础上的其他算法用于非线性系统辨识的可行性与有效性。 关键词神经网络BP算法；辨识；非线性系统 前言 神经网络是一门新兴的多学科研究领域，它是在对人脑的探索中形成的。神经网络在系统建模、辨识与控制中的应用，大致以1985年Rumelhart的突破性研究为界。在极短的时间内，神经网络就以其独特的非传统表达方式和固有的学习能力，引起了控制界的普遍重视，并取得了一系列重要结果。本文以神经网络在系统辨识中的应用作一综述，而后着重介绍BP网络算法，并给出了若干改进的BP算法。通过比较，说明改进算法具有诸多优点及用于非线性系统辨识[1]的可行性与有效性。 1 神经网絡用于系统辨识的原理及现状 神经网络在自动控制系统中的应用已有多年。目前，利用神经网络建立动态系统的输入/输出模型的理论及技术，在许多具体领域的应用得到成功，如化工过程、水轮机、机器入手臂、涡轮柴油发动机等。运用神经网络的建模适用于相当于非线性特性的复杂系统[2]。 目前系统辨识中用得最多的是多层前馈神经网络[1]。我们知道，自动控制系统中，一个单隐层或双隐层的具有任意数目神经元的神经网络，可以产生逼近任意函数的输入/输出映射。但网络的输入节点数目及种类（延迟输入和输出）、隐层节点的个数以及训练所用的算法对辨识精度和收敛时间均有影响。一般根据系统阶数取延迟输入信号，根据经验确定隐层节点数，然后对若干个神经网络进行比较，确定网络中神经元的合理数目。现在用得较多的多层前馈神经网络的学习算法是反向传播算法（Back Propagation），即BP算法。但BP算法收敛速度较慢，后面将会进一步讨论。 1.1 神经网络的结构 感知器是最简单的前馈网络，它主要用于模式分类。也可用在基于模式分类的学习控制和多模态控制中。现以多层前馈神经网络为代表，来说明神经网络的结构。多层前馈神经网络由输入、输出层以及一个或多个隐层组成。每层有若干个计算单元称之神经元。这些神经元在层状结构的网络中按图1所示方式相互连接。信息按树状路径从下至上逐层传送。一旦相邻层间神经元的连接权以及隐层中神经元的阈值被确定，整个网络的特性也就确定了。如图1所示，第1层为输
神经网络最新发展综述 学校：上海海事大学 专业：物流工程 姓名：周巧珍 学号：201530210155
神经网络最新发展综述 摘要：作为联接主义智能实现的典范，神经网络采用广泛互联的结构与有效的学习机制来模拟人脑信息处理的过程，是人工智能发展中的重要方法，也是当前类脑智能研究中的有效工具。目前，模拟人脑复杂的层次化认知特点的深度学习成为类脑智能中的一个重要研究方向。通过增加网络层数所构造的“深层神经网络”使机器能够获得“抽象概念”能力，在诸多领域都取得了巨大的成功，又掀起了神经网络研究的一个新高潮。本文分8个方面综述了其当前研究进展以及存在的问题，展望了未来神经网络的发展方向。 关键词: 类脑智能；神经网络；深度学习；大数据 Abstract: As a typical realization of connectionism intelligence, neural network, which tries to mimic the information processing patterns in the human brain by adopting broadly interconnected structures and effective learning mechanisms, is an important branch of artificial intelligence and also a useful tool in the research on brain-like intelligence at present. Currently, as a way to imitate the complex hierarchical cognition characteristic of human brain, deep learning brings an important trend for brain-like intelligence. With the increasing number of layers, deep neural network entitles machines the capability to capture “abstract concepts” and it has achieved great success in various fields, leading a new and advanced trend in neural network research. This paper summarizes the latest progress in eight applications and existing problems considering neural network and points out its possible future directions. Key words : artificial intelligence; neural network; deep learning; big data 1 引言 实现人工智能是人类长期以来一直追求的梦想。虽然计算机技术在过去几十年里取得了长足的发展，但是实现真正意义上的机器智能至今仍然困难重重。伴随着神经解剖学的发展，观测大脑微观结构的技术手段日益丰富，人类对大脑组织的形态、结构与活动的认识越来越深入，人脑信息处理的奥秘也正在被逐步揭示。如何借助神经科学、脑科学与认知科学的研究成果，研究大脑信息表征、转换机理和学习规则，建立模拟大脑信息处理过程的智能计算模型，最终使机器掌握人类的认知规律，是“类脑智能”的研究目标。 类脑智能是涉及计算科学、认知科学、神经科学与脑科学的交叉前沿方向。类脑智能的
神经网络的应用及其发展 [摘要] 该文介绍了神经网络的发展、优点及其应用和发展动向，着重论述了神经网络目前的几个研究热点，即神经网络与遗传算法、灰色系统、专家系统、模糊控制、小波分析的结合。 [关键词]遗传算法灰色系统专家系统模糊控制小波分析 一、前言 神经网络最早的研究20世纪40年代心理学家Mcculloch和数学家Pitts合作提出的，他们提出的MP模型拉开了神经网络研究的序幕。神经网络的发展大致经过三个阶段：1947~1969年为初期，在这期间科学家们提出了许多神经元模型和学习规则，如MP模型、HEBB学习规则和感知器等；1970~1986年为过渡期，这个期间神经网络研究经过了一个低潮，继续发展。在此期间，科学家们做了大量的工作，如Hopfield教授对网络引入能量函数的概念，给出了网络的稳定性判据，提出了用于联想记忆和优化计算的途径。1984年，Hiton教授提出Boltzman机模型。1986年Kumelhart等人提出误差反向传播神经网络，简称BP 网络。目前，BP网络已成为广泛使用的网络；1987年至今为发展期，在此期间，神经网络受到国际重视，各个国家都展开研究，形成神经网络发展的另一个高潮。神经网络具有以下优点： (1) 具有很强的鲁棒性和容错性，因为信息是分布贮于网络内的神经元中。 (2) 并行处理方法，使得计算快速。 (3) 自学习、自组织、自适应性，使得网络可以处理不确定或不知道的系统。 (4) 可以充分逼近任意复杂的非线性关系。 (5) 具有很强的信息综合能力，能同时处理定量和定性的信息，能很好地协调多种输入信息关系，适用于多信息融合和多媒体技术。 二、神经网络应用现状 神经网络以其独特的结构和处理信息的方法，在许多实际应用领域中取得了显著的成效，主要应用如下： (1) 图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。
题目：Hopfield神经网络综述 一、概述： 1.什么是人工神经网络（Artificial Neural Network，ANN) 人工神经网络是一个并行和分布式的信息处理网络结构，该网络结构一般由许多个神经元组成，每个神经元有一个单一的输出，它可以连接到很多其他的神经元，其输入有多个连接通路，每个连接通路对应一个连接权系数。 人工神经网络系统是以工程技术手段来模拟人脑神经元（包括细胞体，树突，轴突）网络的结构与特征的系统。利用人工神经元可以构成各种不同拓扑结构的神经网络，它是生物神经网络的一种模拟和近似。主要从两个方面进行模拟：一是结构和实现机理；二是从功能上加以模拟。 根据神经网络的主要连接型式而言，目前已有数十种不同的神经网络模型，其中前馈型网络和反馈型网络是两种典型的结构模型。 1）反馈神经网络(Recurrent Network) 反馈神经网络，又称自联想记忆网络，其目的是为了设计一个网络，储存一组平衡点，使得当给网络一组初始值时，网络通过自行运行而最终收敛到这个设计的平衡点上。反馈神经网络是一种将输出经过一步时移再接入到输入层的神经网络系统。 反馈网络能够表现出非线性动力学系统的动态特性。它所具有的主要特性为以下两点：（1）.网络系统具有若干个稳定状态。当网络从某一初始状态开始运动，网络系统总可以收敛到某一个稳定的平衡状态； （2）.系统稳定的平衡状态可以通过设计网络的权值而被存储到网络中。 反馈网络是一种动态网络，它需要工作一段时间才能达到稳定。该网络主要用于联想记忆和优化计算。在这种网络中，每个神经元同时将自身的输出信号作为输入信号反馈给其他神经元，它需要工作一段时间才能达到稳定。 2.Hopfiel d神经网络 Hopfield网络是神经网络发展历史上的一个重要的里程碑。由美国加州理工学院物理学家J.J.Hopfield 教授于1982年提出，是一种单层反馈神经网络。Hopfiel d神经网络是反馈网络中最简单且应用广泛的模型，它具有联想记忆的功能。 Hopfield神经网络模型是一种循环神经网络，从输出到输入有反馈连接。在输入的激励下，会产生不断的状态变化。 反馈网络有稳定的，也有不稳定的，如何判别其稳定性也是需要确定的。对于一个Hopfield 网络来说，关键是在于确定它在稳定条件下的权系数。 下图中，第0层是输入，不是神经元；第二层是神经元。
题目： Hopfield神经网络综述 一、概述： 1.什么是人工神经网络（Artificial Neural Network，ANN) 人工神经网络是一个并行和分布式的信息处理网络结构，该网络结构一般由许多个神经元组成，每个神经元有一个单一的输出，它可以连接到很多其他的神经元，其输入有多个连接通路，每个连接通路对应一个连接权系数。 人工神经网络系统是以工程技术手段来模拟人脑神经元（包括细胞体，树突，轴突）网络的结构与特征的系统。利用人工神经元可以构成各种不同拓扑结构的神经网络，它是生物神经网络的一种模拟和近似。主要从两个方面进行模拟：一是结构和实现机理；二是从功能上加以模拟。 根据神经网络的主要连接型式而言，目前已有数十种不同的神经网络模型，其中前馈型网络和反馈型网络是两种典型的结构模型。 1）反馈神经网络(Recurrent Network) 反馈神经网络，又称自联想记忆网络，其目的是为了设计一个网络，储存一组平衡点，使得当给网络一组初始值时，网络通过自行运行而最终收敛到这个设计的平衡点上。反馈神经网络是一种将输出经过一步时移再接入到输入层的神经网络系统。 反馈网络能够表现出非线性动力学系统的动态特性。它所具有的主要特性为以下两点：（1）.网络系统具有若干个稳定状态。当网络从某一初始状态开始运动，网络系统总可以收敛到某一个稳定的平衡状态； （2）.系统稳定的平衡状态可以通过设计网络的权值而被存储到网络中。 反馈网络是一种动态网络，它需要工作一段时间才能达到稳定。该网络主要用于联想记忆和优化计算。在这种网络中，每个神经元同时将自身的输出信号作为输入信号反馈给其他神经元，它需要工作一段时间才能达到稳定。 2.Hopfield神经网络 Hopfield网络是神经网络发展历史上的一个重要的里程碑。由美国加州理工学院物理学家J.J.Hopfield 教授于1982年提出，是一种单层反馈神经网络。Hopfield神经网络是反馈网络中最简单且应用广泛的模型，它具有联想记忆的功能。 Hopfield神经网络模型是一种循环神经网络，从输出到输入有反馈连接。在输入的激励下，会产生不断的状态变化。 反馈网络有稳定的，也有不稳定的，如何判别其稳定性也是需要确定的。对于一个Hopfield 网络来说，关键是在于确定它在稳定条件下的权系数。 下图中，第0层是输入，不是神经元；第二层是神经元。
人工神经网络控制 摘要: 神经网络控制，即基于神经网络控制或简称神经控制，是指在控制系统中采用神经网络这一工具对难以精确描述的复杂的非线性对象进行建模，或充当控制器，或优化计算，或进行推理，或故障诊断等，亦即同时兼有上述某些功能的适应组合，将这样的系统统称为神经网络的控制系统。本文从人工神经网络，以及控制理论如何与神经网络相结合，详细的论述了神经网络控制的应用以及发展。 关键词: 神经网络控制；控制系统；人工神经网络 人工神经网络的发展过程 神经网络控制是20世纪80年代末期发展起来的自动控制领域的前沿学科之一。它是智能控制的一个新的分支，为解决复杂的非线性、不确定、不确知系统的控制问题开辟了新途径。是（人工）神经网络理论与控制理论相结合的产物，是发展中的学科。它汇集了包括数学、生物学、神经生理学、脑科学、遗传学、人工智能、计算机科学、自动控制等学科的理论、技术、方法及研究成果。 在控制领域，将具有学习能力的控制系统称为学习控制系统，属于智能控制系统。神经控制是有学习能力的，属于学习控制，是智能控制的一个分支。神经控制发展至今，虽仅有十余年的历史，已有了多种控制结构。如神经预测控制、神经逆系统控制等。 生物神经元模型 神经元是大脑处理信息的基本单元，人脑大约含1012个神经元，分成约1000种类型，每个神经元大约与102~104个其他神经元相连接，形成极为错综复杂而又灵活多变的神经网络。每个神经元虽然都十分简单，但是如此大量的神经元之间、如此复杂的连接却可以演化出丰富多彩的行为方式，同时，如此大量的神经元与外部感受器之间的多种多样的连接方式也蕴含了变化莫测的反应方式。 图1 生物神经元传递信息的过程为多输入、单输出，神经元各组成部分的功能来看，信息的处理与传递主要发生在突触附近，当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定强度，即超过其阈值电位后，突触前膜将向突触间隙释放神经传递的化学物质，突触有两
人工智能发展综述 摘要:概要的阐述下人工智能的概念、发展历史、当前研究热点和实际应用以及未来的发展趋势。 关键词:人工智能; 前景; 发展综述 人工智能(Artificial Intelligence)自1956 年正式问世以来的五十年间已经取得了长足的进展,由于其应用的极其广泛性及存在的巨大研究开发潜力, 吸引了越来越多的科技工作者投入人工智能的研究中去。尤其是八十年代以来出现了世界范围的开发新技术的高潮，许多发达国家的高科技计划的重要内容是计算机技术,而尤以人工智能为其基本重要组成部分。人工智能成为国际公认的当代高技术的核心部分之一。 1什么是人工智能 美国斯坦福大学人工智能研究中心尼尔逊教授给人工智能下了这样一个定义:人工智能是关于知识的学科, 是怎样表示知识以及怎样获得知识并使用知识的科学。从人工智能所实现的功能来定义是智能机器所执行的通常与人类智能有关的功能,如判断、推理、证明、识别学习和问题求解等思维活动。这些反映了人工智能学科的基本思想和基本内容, 即人工智能是研究人类智能活动的规律。若是从实用观点来看,人工智能是一门知识工程学:以知识为对象,研究知识的获取、知识的表示方法和知识的使用。 从计算机应用系统的角度出发，人工智能是研究如何制造智能机器或智能系统，来模拟人类智能活动的能力，以延伸人们智能的科学。如果仅从技术的角度来看，人工智能要解决的问题是如何使电脑表现智能化，使电脑能更灵活方效地为人类服务。只要电脑能够表现出与人类相似的智能行为,就算是达到了目的，而不在乎在这过程中电脑是依靠某种算法还是真正理解了。人工智能就是计算机科学中涉及研究、设计和应用智能机器的—个分支，人工智能的目标就是研究怎样用电脑来模仿和执行人脑的某些智力功能，并开发相关的技术产品，建立有关的理论。 2 人工智能历史 当然，人工智能的发展也并不是一帆风顺的，人工智能的研究经历了以下几
基于人工神经网络的预测研究文献综述专业：电子信息工程班级：08级2班作者：刘铭指导老师：熊朝松 引言 随着多媒体和网络技术的飞速发展及广泛应用，人工神经网络已被广泛运用于各种领域，而它的预测功能也在不断被人挖掘着。人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统。现代计算机构成单元的速度是人脑中神经元速度的几百万倍，对于那些特征明确，推理或运算规则清楚地可编程问题，可以高速有效地求解，在数值运算和逻辑运算方面的精确与高速极大地拓展了人脑的能力，从而在信息处理和控制决策等方面为人们提供了实现智能化和自动化的先进手段。但由于现有计算机是按照冯·诺依曼原理，基于程序存取进行工作的，历经半个多世纪的发展，其结构模式与运行机制仍然没有跳出传统的逻辑运算规则，因而在很多方面的功能还远不能达到认得智能水平。随着现代信息科学与技术的飞速发展，这方面的问题日趋尖锐，促使科学和技术专家们寻找解决问题的新出路。当人们的思想转向研究大自然造就的精妙的人脑结构模式和信息处理机制时，推动了脑科学的深入发展以及人工神经网络和闹模型的研究。随着对生物闹的深入了解，人工神经网络获得长足发展。在经历了漫长的初创期和低潮期后，人工神经网络终于以其不容忽视的潜力与活力进入了发展高潮。这么多年来，它的结构与功能逐步改善，运行机制渐趋成熟，应用领域日益扩大，在解决各行各业的难题中显示出巨大的潜力，取得了丰硕的成果。通过运用人工神经网络建模，可以进行预测事物的发展，节省了实际要求证结果所需的研究时间。 正是由于人工神经网络是一门新兴的学科，它在理论、模型、算法、应用和时限等方面都还有很多空白点需要努力探索、研究、开拓和开发。因此，许多国家的政府和企业都投入了大量的资金，组织大量的科学和技术专家对人工神经网络的广泛问题立项研究。从人工神经网络的模拟程序和专用芯片的不断推出、论文的大量发表以及各种应用的报道可以看到，在这个领域里一个百家争鸣的局面已经形成。 为了能深入认识人工神经网络的预测功能，大量收集和阅读相关资料是非常必要的。搜集的资料范围主要是大量介绍人工神经网路，以及认识和熟悉了其中重要的BP网络。参考的著作有：马锐的《人工神经网络原理》，胡守仁、余少波的《神经网络导论》以及一些相关论文，董军和胡上序的《混沌神经网络研究进展和展望》，朱大奇的《人工神经网络研究现状及其展望》和宋桂荣的《改进BP算法在故障诊断中的应用》，这些
神经网络系统建模综述 一、人工神经网络简介 1.1人工神经网络的发展历史 人工神经网络早期的研究工作应追溯至本世纪40年代。下面以时间顺序，以著名的人物或某一方面突出的研究成果为线索，简要介绍人工神经网络的发展历史。 1943年，心理学家W·Mcculloch和数理逻辑学家W·Pitts在分析、总结神经元基本特性的基础上首先提出神经元的数学模型。此模型沿用至今，并且直接影响着这一领域研究的进展。因而，他们两人可称为人工神经网络研究的先驱。 1945年冯·诺依曼领导的设计小组试制成功存储程序式电子计算机，标志着电子计算机时代的开始。 50年代末，F·Rosenblatt设计制作了“感知机”，它是一种多层的神经网络。这项工作首次把人工神经网络的研究从理论探讨付诸工程实践。 在60年代初期，Widrow提出了自适应线性元件网络，这是一种连续取值的线性加权求和阈值网络。后来，在此基础上发展了非线性多层自适应网络。当时，这些工作虽未标出神经网络的名称，而实际上就是一种人工神经网络模型。 80年代初期，模拟与数字混合的超大规模集成电路制作技术提高到新的水平，完全付诸实用化，此外，数字计算机的发展在若干应用领域遇到困难。这一背景预示，向人工神经网络寻求出路的时机已经成熟。美国的物理学家Hopfield于1982年和1984年在美国科学院院刊上发表了两篇关于人工神经网络研究的论文，引起了巨大的反响。人们重新认识到神经网络的威力以及付诸应用的现实性。随即，一大批学者和研究人员围绕着Hopfield提出的方法展开了进一步的工作，形成了80年代中期以来人工神经网络的研究热潮。 1.2人工神经网络的工作原理 人工神经网络是由大量处理单元广泛互连而成的网络结构，是人脑的抽象、简化和模拟。人工神经网络就是模拟人思维的第二种方式。这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。 人工神经网络首先要以一定的学习准则进行学习，然后才能工作。所以网络学习的准则应该是：如果网络作出错误的的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。
目录 1 人工神经网络算法的工作原理 (3) 2 人工神经网络研究内容 (4) 3 人工神经网络的特点 (5) 4 典型的神经网络结构 (6) 4.1 前馈神经网络模型 (6) 4.1.1 自适应线性神经网络(Adaline) (6) 4.1.1.1网络结构 (6) 4.1.1.2学习算法步骤 (7) 4.1.1.3优缺点 (7) 4.1.2单层感知器 (8) 4.1.2.1网络结构 (8) 4.1.2.2学习算法步骤 (9) 4.1.2.3优缺点 (9) 4.1.3多层感知器和BP算法 (10) 4.1.3.1网络结构： (10) 4.1.3.2 BP算法 (10) 4.1.3.3算法学习规则 (11) 4.1.3.4算法步骤 (11) 4.1.3.5优缺点 (12) 4.2反馈神经网络模型 (13) 4.2.1 Hopfield神经网络 (13) 4.2.1.1网络结构 (13) 4.2.1.2 学习算法 (15) 4.2.1.3 Hopfield网络工作方式 (15) 4.2.1.4 Hopfield网络运行步骤 (15) 4.2.1.5优缺点 (16) 4.2.2海明神经网络（Hamming） (16) 4.2.2.1网络结构 (16) 4.2.2.2学习算法 (17) 4.2.2.3特点 (18) 4.2.3双向联想存储器（BAM） (19) 4.2.3.1 网络结构 (19) 4.2.3.2学习算法 (19) 4.2.3.4优缺点 (21) 5.人工神经网络发展趋势以及待解决的关键问题 (22) 5.1 与小波分析的结合 (22) 5.1.1小波神经网络的应用 (23) 5.1.2待解决的关键技术问题 (23) 5.2混沌神经网络 (23) 5.2.1混沌神经网络的应用 (24) 5.2.2待解决的关键技术问题 (24)
系统辨识研究综述 摘要：本文综述了系统辨识的发展与研究内容，对现有的系统辨识方法进行了介绍并分析其不足，进一步引出了把神经网络、遗传算法、模糊逻辑、小波网络知识应用于系统辨识得到的一些新型辨识方法。并对基于T-S模型的模糊系统辨识进行了介绍。文章最后对系统辨识未来的发展方向进行了介绍 关键词：系统辨识；建模；神经网络；遗传算法；模糊逻辑；小波网络；T-S 模型 1.系统辨识的发展和基本概念 1.1系统辨识发展 现代控制论是控制工程新的理论基础。辨识、状态估计和控制理论是现代控制论三个相互渗透的领域。辨识和状态估计离不开控制理论的支持；控制理论的应用又几乎不能没有辨识和状态估计。 而现代控制论的实际应用不能脱离被控对象的动态特性，且所用的数学模型需要选择一种使用方便的描述形式。但很多情况下建立被控对象的数学模型并非易事，尤其是实际的物理或工程对象，它们的机理复杂且含有各种噪声，使建立数学模型更加困难。系统辨识就是应此需要而形成的一门学科。 系统辨识和系统参数估计是六十年代开始迅速发展起来的。1960年，在莫斯科召开的国际自动控制联合会(IFCA)学术会议上，只有很少几篇文章涉及系统辨识和系统参数估计问题。然而，在此后，人们对这一学科给予了很大的注意，有关系统辨识的理论和应用的讨论日益增多。七十年代以来，随着计算机的开发和普及，系统辨识得到了迅速发展，成为了一门非常活跃的学科。 1.2系统辨识基本概念的概述 系统辨识是建模的一种方法。不同的学科领域,对应着不同的数学模型,从某种意义上讲,不同学科的发展过程就是建立它的数学模型的过程。建立数学模型有两种方法:即解析法和系统辨识。 L. A. Zadeh于1962年给辨识提出了这样的定义：“辨识就是在输入和输出数据的基础上，从一组给定的模型类中，确定一个与所测系统等价的模型。”当然按照Zadeh的定义，寻找一个与实际过程完全等价的模型无疑是非常困难的。根据实用性观点，对模型的要求并非如此苛刻。1974年，P. E. ykhoff给出辨识的定义“辨识问题可以归结为用一个模型来表示客观系统(或将要构造的系统) 本质为： 特征的一种演算，并用这个模型把对客观系统的理解表示成有用的形式。而1978
人工神经网络综述 摘要：人工神经网络是属于人工智能的一个组成部分，它的提出是基于现代神经科学的相关研究，并且在诸多领域得到了广泛的应用，为人工智能化的发展提供了强大的动力。首先论述了人工神经网络的发展历程，并介绍了几种常见的模型及应用现状，最后总结了当前存在的问题及发展方向。 关键词：神经网络、分类、应用 0引言 多年以来，科学家们不断从医学、生物学、生理学、哲学、信息学、计算机科学、认知学、组织协同学等各个角度探索人脑工作的秘密，希望能制作模拟人脑的人工神经元。特别是近二十年来。对大脑有关的感觉器官的仿生做了不少工作，人脑含有数亿个神经元，并以特殊的复杂形式组成在一起，它能够在计算某些问题（如难以用数学描述或非确定性问题等）时，比目前最快的计算机还要快许多倍。大脑的信号传导速度要比电子元件的信号传导要慢百万倍，然而，大脑的信息处理速度比电子元件的处理速度快许多倍，因此科学家推测大脑的信息处理方式和思维方式是非常复杂的，是一个复杂并行信息处理系统。在研究过程中，近年来逐渐形成了一个新兴的多学科交叉技术领域，称之为“人工神经网络”。神经网络的研究涉及众多学科领域，这些领域互相结合、相互渗透并相互推动。 1人工神经网络概述 1.1人工神经网络的发展 人工神经网络是20世纪80年代以来人工智能领域中兴起的研究热点，因其具有独特的结构和处理信息的方法，使其在许多实际应用中取得了显著成效。 1.1.1人工神经网络发展初期 1943年美国科学家家Pitts和MeCulloch从人脑信息处理观点出发，采用数理模型的方法研究了脑细胞的动作和结构及其生物神经元的一些基本生理特性，他们提出了第一个神经计算模型，即神经元的阈值元件模型，简称MP模型，这是人类最早对于人脑功能的模仿。他们主要贡献在于结点的并行计算能力很强，为计算神经行为的某此方面提供了可能性，从而开创了神经网络的研究。1958年Frank Rosenblatt提出了感知模型(Pereeptron)，用来进行分类，并首次把神经网络的研究付诸于工程实践。1960年Bernard Widrow等提出自适应线形元件ADACINE网络模型，用于信号处理中的自适应滤波、预测和模型识别。 1.1.2人工神经网络低谷时期
系统辨识课程综述 通过《系统辨识》课程的学习，了解了系统辨识问题的概述及研究进展；掌握了经典的辨识理论和辨识技术及其优缺点，如：脉冲响应法、最小二乘法（LS）和极大似然法等；同时对于那些为了弥补经典系统辨识方法的不足而产生的现代系统辨识方法的原理及其优缺点有了一定的认识，如：神经网络系统辨识、基于遗传算法的系统辨识、模糊逻辑系统辨识、小波网络系统辨识等；最后总结了系统辨识研究的发展方向。 一、系统辨识概论 自40年代Wiener创建控制论和50年代诞生工程控制论以来，控制理论和工程就一直围绕着建立模型和控制器设计这两个主题来发展。它们相互依赖、相互渗透并相互发展；随着控制过程的复杂性的提高以及控制目标的越来越高，控制理论的应用日益广泛，但其实际应用不能脱离被控对象的数学模型。但是大多数情况下，被控对象的数学模型是不知道的，或者在正常运行期间模型的参数可能发生变化，此时建立模型需要细致、完整地分析系统的机理和所有对该系统的行为产生影响的各种因素，从而变得十分困难。系统辨识建模正是适应这一需要而产生的，它是现代控制理论中一个很活跃的分支。 系统辨识是建模的一种方法，不同的学科领域，对应着不同的数学模型。从某种意义上来说，不同学科的发展过程就是建立他的数学模型的过程。所谓系统辨识，通俗地说，就是研究怎样利用对未知系统的试验数据或在线运行数据（输入/输出数据），运用数学归纳、统
计回归的方法建立描述系统的数学模型的科学。Zadeh与Ljung明确提出了系统辨识的三个要素：输入输出数据，模型类和等价准则。总之，辨识的实质就是从一组模型类中选择一个模型，按照某种准则，使之能最好地拟合我们所关心的实际过程的静态或动态特性。 通过辨识建立数学模型的目的是估计表征系统行为的重要参数，建立一个能模仿真实系统行为的模型，用当前可测量的系统的输入和输出预测系统输出的未来演变，以及设计控制器。对系统进行分析的主要问题是根据输入时间函数和系统的特性来确定输出信号；对系统进行控制的主要问题是根据系统的特性设计控制输入，使输出满足预先规定的要求。而系统辨识亦称为实验建模方法，它是“系统分析”和“控制系统设计”的逆问题。通常，预先给定一个模型类μ＝｛M｝（即给定一类已知结构的模型），一类输入信号u和等价准则J＝L(y，yM)(一般情况下，J是误差函数，是过程输出y和模型输出yM的一个泛函)；然后选择使误差函数J达到最小的模型，作为辨识所要求的结果。 二、经典的系统辨识 经典的系统辨识方法包括脉冲响应法、最小二乘法（LS）和极大似然法等。其中最小二乘法(LS)是应用最广泛的方法,但由于它是非一致的，是有偏差性，所以为了克服他的缺陷，形成了一些以最小二乘法为基础的系统辨识方法：广义最小二乘法(GLS)、辅助变量法(IV)、增广最小二乘法(ELS)、广义最小二乘法(GLS)，以及将一般的最小二乘法与其他方法相结合的方法，有：最小二乘两步法(COR—LS)
神经网络的应用及其发展 来源：辽宁工程技术大学作者：苗爱冬 [摘要] 该文介绍了神经网络的发展、优点及其应用和发展动向，着重论述了神经网络目前的几个研究热点，即神经网络与遗传算法、灰色系统、专家系统、模糊控制、小波分析的结合。 [关键词]遗传算法灰色系统专家系统模糊控制小波分析 一、前言 神经网络最早的研究20世纪40年代心理学家Mcculloch和数学家Pitts 合作提出的，他们提出的MP模型拉开了神经网络研究的序幕。神经网络的发展大致经过三个阶段：1947~1969年为初期，在这期间科学家们提出了许多神经元模型和学习规则，如MP模型、HEBB学习规则和感知器等；1970~1986年为过渡期，这个期间神经网络研究经过了一个低潮，继续发展。在此期间，科学家们做了大量的工作，如Hopfield教授对网络引入能量函数的概念，给出了网络的稳定性判据，提出了用于联想记忆和优化计算的途径。1984年，Hiton教授提出Boltzman机模型。1986年Kumelhart等人提出误差反向传播神经网络，简称BP 网络。目前，BP网络已成为广泛使用的网络；1987年至今为发展期，在此期间，神经网络受到国际重视，各个国家都展开研究，形成神经网络发展的另一个高潮。神经网络具有以下优点： (1) 具有很强的鲁棒性和容错性，因为信息是分布贮于网络内的神经元中。 (2) 并行处理方法，使得计算快速。 (3) 自学习、自组织、自适应性，使得网络可以处理不确定或不知道的系统。 (4) 可以充分逼近任意复杂的非线性关系。 (5) 具有很强的信息综合能力，能同时处理定量和定性的信息，能很好地协调多种输入信息关系，适用于多信息融合和多媒体技术。 二、神经网络应用现状 神经网络以其独特的结构和处理信息的方法，在许多实际应用领域中取得了显著的成效，主要应用如下： (1) 图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。 (2) 信号处理。能分别对通讯、语音、心电和脑电信号进行处理分类；可用于海底声纳信号的检测与分类，在反潜、扫雷等方面得到应用。 (3) 模式识别。已成功应用于手写字符、汽车牌照、指纹和声音识别，还可用于目标的自动识别和定位、机器人传感器的图像识别以及地震信号的鉴别等。 (4) 机器人控制。对机器人眼手系统位置进行协调控制，用于机械手的故障诊断及排除、智能自适应移动机器人的导航。 (5) 卫生保健、医疗。比如通过训练自主组合的多层感知器可以区分正常心跳和非正常心跳、基于BP网络的波形分类和特征提取在计算机临床诊断中的应用。 (6) 焊接领域。国内外在参数选择、质量检验、质量预测和实时控制方面都
WIND 一、人工神经网络理论概述 (一人工神经网络基本原理 神经网络 (Artificialneuralnet work , ANN 是由大量的简单神经元组成的非线性系统,每个神经元的结构和功能都比较简单,而大量神经元组合产生的系统行为却非常复杂。人工神经元以不同的方式,通过改变连接方式、神经元的数量和层数,组成不同的人工神经网络模型 (神经网络模型。 人工神经元模型的基本结构如图 1所示。图中X=(x 1, x 2, … x n T ∈ R n 表示神经元的输入信号 (也是其他神经元的输出信号 ; w ij 表示 神经元 i 和神经元 j 之间的连接强度,或称之为权值; θj 为神经元 j 的阀值 (即输入信号强度必须达到的最小值才能产生输出响应 ; y i 是神经元 i 的输出。其表达式为 y i =f( n j =i Σw ij x j +θi 式中, f (
·为传递函数 (或称激活函数 ,表示神经元的输入 -输出关系。 图 1 (二人工神经网络的发展 人工神经网络 (ArtificialNeuralNetwork 是一门崭新的信息处理科学,是用来模拟人脑结构和智能的一个前沿研究领域,因其具有独特的结构和处理信息的方法,使其在许多实际应用中取得了显著成效。人工神经网络系统理论的发展历史是不平衡的,自 1943年心理学家 McCulloch 与数学家 Pitts 提出神经元生物学模型 (简称MP-模型以来,至今已有 50多年的历史了。在这 50多年的历史中,它的发展大体上可分为以下几个阶段。 60年代末至 70年代,人工神经网络系统理论的发展处于一个低潮时期。造成这一情况的原因是人工神经网络系统理论的发展出现了本质上的困难,即电子线路交叉极限的困难。这在当时条件下,对神经元的数量 n 的大小受到极大的限制,因此它不可能去完成高度智能化的计算任务。 80年代中期人工神经网络得到了飞速的发展。这一时期,多种模型、算法与应用问题被提出,主要进展如:Boltzmann 机理论的研究, 细胞网络的提出,性能指标的分析等。 90年代以后,人工神经网络系统理论进入了稳健发展时期。现在人工神经网络系统理论的应用研究主要是在模式识别、经济管理、优化控制等方面:与数学、统计中的多个学科分支发生联系。 (三人工神经网络分类 人工神经网络模型发展到今天已有百余种模型,建造的方法也是多种多样,有出自热力学的、数学方法的、模糊以及混沌方法的。其中 BP 网络(BackPropagationNN 是当前应用最为广泛的一种人工神经网络。在人工神经网络的实际应用中, 80%~90%的人工神经网络模型是采用 BP 网络或它的变化形式,它也
系统辨识方法综述 摘要 在自然和社会科学的许多领域中，系统的设计、系统的定量分析、系统综合及系统控制，以及对未来行为的预测，都需要知道系统的动态特性。在研究一个控制系统过程中，建立系统的模型十分必要。因此，系统辨识在控制系统的研究中起到了至关重要的作用。本文论述了用于系统辨识的多种方法，重点论证了经典系统辨识方法中运用最广泛的的最小二乘法及其优缺点，引出了将遗传算法、模糊逻辑、多层递阶等知识应用于系统辨识得到的一些现代系统辨识方法，最后总结了系统辨识今后的发展方向。 关键字：系统辨识；最小二乘法；遗传算法；模糊逻辑；多层递阶 Abstract In many fields of natural and social science, the design of the system, the quantitative analysis of the system, the synthesis of the system and the control of the system, as well as the prediction of the future behavior, all need to know the dynamic characteristics of the system. It is very necessary to establish a system model in the process of studying a control system. Therefore, system identification plays an important role in the research of control system. This paper discusses several methods for system identification, the key argument is that the classical system identification methods using the least squares method and its advantages and disadvantages, and leads to the genetic algorithm, fuzzy logic, multi hierarchical knowledge application in system identification of some modern system identification method. Finally, the paper summarizes the system identification in the future direction of development. Keywords:System identification; least square method; genetic algorithm; fuzzy logic; multi hierarchy 第一章系统辨识概述 系统辨识是研究建立系统数学模型的理论和方法。系统辨识是建模的一种方法，不同的学科领域，对应着不同的数学模型。从某种意义上来说，不同学科的发展过程就是建立他的数学模型的过程。辨识问题可以归结为用一个模型来表示客观系统（或将要构造的系统）本质牲征的一种演算，并用这个模型把对客观系统的理解表示成有用的形式。当然也可以有另外的描述，辨识有三个要素：数据，模型类和准则。辨识就是按照一个准则在一组模型类中
基于神经网络模型的最新系统辨识算法 摘要：神经网络具有大规模并行分布式结构、自主学习以及泛化能力，因此可以利用神经网络来解决许多传统方法无法解决的问题。神经网络应用在非线性系统的辨识中有良好的结果。本文在阅读大量参考文献的基础上，对最新的基于神经网络的系统辨识算法进行总结。 关键字：神经网络；系统辨识；辨识算法 The latest algorithm about identification system based on neural network model Abstract: Neural network has large parallel distributed structure, learning by itself and has generalization ability. So neural network is used to solve many questions which traditional method cannot. Neural network is well applied to nonlinear system which has got good achievements in identification system. Based on most of documents, the paper summaries the latest algorithm about identification system based on neural network model. Keywords:Neural network, identification system, identification algorithm 0 前言 在国内，系统辨识也取得了许多成绩，尽管成果丰硕，但传统辨识法仍存在不少局限：传统辨识法较适用于输入端中扰动水平比较低的控制系统，对于具有外界干扰的控制系统，就会出现计算量大、鲁棒性不够好的问题；最小二乘法及其相关改进算法一般利用梯度算法进行信息搜索，容易陷入局部极小值。鉴于此，神经网络控制在系统辨识中得到了新的应用。本文在阅读大量文献后，针对国内基于神经网络的结合其他算法的最新辨识算法进行综述分析。 1 神经网络的应用优势 神经网络的吸引力在于：能够充分逼近任意复杂的非线性关系，能够学习适应不确定性系统的动态特性；所有定量或定性的信息都分布储存于网络内的各个神经元，所以有很强的鲁棒性和容错性；采用并行分