离散马尔可夫神经网络的状态估计[20191214193322]
摘要
近年来，神经网络（ NNS ）已受到许多研究的关注，因为NNS在信号处理领域、模式识别领域和静态图像处理等领域有着广泛的应用。神经网络的实用性取决于神经网络的平衡点的存在性和稳定性。在一个使用模拟电子电路神经网络的硬件实现中，时间延迟总是难以避免的，并发生在神经元之间的信号传输。根据其发生的方式，时间延迟通常可以分为两种类型：离散的延迟和分布式延迟。离散延迟发生主要是由于放大器的有限开关速度或信息处理的有限速度，这是比较容易在实践中被识别的有限速度。在现实中，离散的延迟和分布的延迟总是同时发生的，因此，越来越多的研究关注一直致力于带有离散延迟和分布延迟的神经网络的动力学行为分析。
本次毕设所关注的是带有时变离散延时和分布式延时的马尔科夫神经网络的指数状态估计。神经网络的参数模式是根据一个Markov链的切换到另一个。通过构建一种新型的Lyapunov - Krasovskii泛函，并开发一个新的凸面的组合技术，一个新的状态依赖时滞指数稳定条件就提出了，对于所有容许延迟有界，在H∞的理念里，导致的估计误差系统是用规定的噪声衰减电平以均方指数方式地稳定。它也表达出了所希望的状态估计器的设计是通过设置求解线性矩阵不等式（LMI）实现的。所得到的条件明确地建立了在最大延时界，H∞噪声衰减电平与估计的错误系统的指数衰减速率之间的关系。最后，通过一个算例说明了该建议的结果的有效性。
 查看完整论文请+Q: 351916072 
关键字:字神经网络、马尔科夫链、时变离散分布式延时、线性矩阵不等式、Lyapunov-Krasovskii泛函
目录
摘要 I
ABSTRACT II
目录 III
第一章 绪论 1
1.1研究的背景及意义 1
1.2神经网络 2
1.3时滞系统 3
1.4 马尔科夫 3
第二章 基础预备知识 7
2.1 MATLAB仿真软件简介 7
2.2 LMI工具箱的使用 7
第三章 离散马尔可夫神经网络的状态估计设计 12
3.1 问题的提出 12
3.2公式符号说明 12
3.3 系统设计 13
3.4 计算状态增益矩阵 17
3.5算例 19
第四章 仿真分析 21
4.1 LMI系统可行性 21
4.2滤波器仿真 21
第五章 总结与展望 29
5.1 总结 29
5.2 课题展望 29
致谢 31
参考文献 32
附录1外文文献 35
附录2 外文翻译 42
第一章 绪论
1.1研究的背景及意义
马尔科夫参数可影响分布式时滞，分布式时滞也可看作多个离散时滞[1]。我们构造新的Lyapunov-Krasovskii泛函，然后利用随机分析的理论，可以推出所需要的神经网络随机稳定性的一些判据，并可将其推广到不确定神经网络的抗变换性.进一步我们构造出了神经网络的估计系统，并以此推出了状态估计器存在的前提条件，并详细给出其对应的状态估计的增益矩阵。其推出的稳定性和状态估计器的存在性条件都能表示为线性矩阵不等式(LMI)的形式[2]，可通过使用一些标准的数值方法来进行求解，同样也可由一些数学软件对所获得的判断依据进行较为准确的检验[3]。
状态估计是一种估算动态系统内部状态的方法，它是根据可获取的量测数据来完成的。对系统的输入和输出分别进行量测得到的数据只能反映系统的外部特性，而系统的动态规律则必须利用内部的状态变量来描述，那通常是无法直接量测的。因此状态估计对于了解和控制一个系统具有非常重要的意义。状态估计通常也被称为滤波，它可以通过实时量测系统的冗余度来提高数据的精确度，自动排除由干扰所造成的错误信息，来估计或预报系统的运行状态或轨迹。状态估计是现代计算机处理数据的一种重要方式，可以应用于卫星、导弹、航母、潜艇以及飞行物的导航、追踪和操纵中。它使用了由 Kalman、Bucy 等人六十年代推出的一种节约了内存的递推平均滤波法，该方法还可很大幅度地降低估计的计算量。由于在电力系统中，某一时间断面上的高维空间网络问题是状态估计的主要处理对象，又不能清晰地认识量测误差的统计知识，因此采用基于统计学的估计方法如极大验后估计、最小方差估计、极大似然估计等方法是不科学的[4]。
状态观测问题是控制理论和应用中的热门话题。最初处理滤波问题常用的方法是卡尔曼滤波，这种方法要求精确已知的系统,且外部扰动必须为具有己确知谱密度的噪声或者高斯白噪声。当外部干扰不能够满足这些统计特性时，利用卡尔曼滤波方法就不再有效。这种情况下,可以利用H∞滤波加以解决[5]。
1.2神经网络
思维学认为：人类大脑的思维分为抽象思维、形象思维和灵感思维三种基本方式。人工神经网络就是模拟人类思维的第二种方式。我们通常把这称作一种非线性的动力学系统，信息的分布式存储和并行协同式处理是其特色所在。尽管单个神经元的结构十分简单，并且功能是非常有限的，但是由无数神经元构成的神经网络系统所实现的行为却是极其丰富的[6]。人工神经网络（artificial neural network），简称神经网络（neural network），是一种能模拟生物神经网络 结构和功能的模型 。神经网络的计算是由大量的人工神经元联结起来进行的[7]。一般情况下，人工神经网络可以在外界信息的影响下改变其内部结构，是一种自适应系统 。现代神经网络是一种统计性的数据建模 工具，常用来对输入和输出间的关系进行建模，或者用来探索数据的模式[8]。
神经网络是一种由大量的节点和之间相互联接而构成的运算模型[9]。每个节点代表一种规定的输出函数，我们通常管它们叫作激励函数。每两个节点间的连接都代表一个对于通过该连接信号的加权值，我们通常管它们叫作权重，这就像人工神经网络的记忆。网络的输出则依赖于网络的连接方式，权重值随着激励函数的变化而变化。网络则一般是对自然界某种算法或者函数的一种逼近 ，抑或是对一种逻辑策略的表达。
各种生物、人的神经网络功能的运作激发人们产生了神经网络的构筑理念。人工神经网络通常可以利用一个鉴于类似于数学统计学的学习方式进行改良，所以人工神经网络可看做数学统计学方法的一种应用，通过统计学的规范数学方法我们可以得到许多可以用函数来表达的局部结构空间，除此之外，在人工智能学的人工感应领域，通过统计学的方法，人工神经网络能够模拟人具有简单的判断能力、分析能力和决策能力，比起正式的逻辑学推理演算这种方法更具裨益[10]。
ANNS是对人脑或自然神经网络若几许基本特性的简化、抽象和模拟。人工神经网络最初是对大脑的生理机制进行研究的，它的目标是模拟大脑的一些机理与技能，实现我们的一些愿望。国际杰出的神经网络研究专家，世界第一家神经计算机公司的创立人Hecht Nielsen 给ANNS下了定义（1988年）：“人工神经网络是由人工建立的以有向图为拓扑结构的动态系统，它通过对连续或断续的输入作状态相应而进行信息处理。”
探索ANNS，最早可追溯到 由Rosenblatt 提出的感知器模型 [11]。它差不多与人工智能 （Artificial Intelligence）是一起开始的，但30多年来并未取得巨大成功，期间经历了很长时间的衰败。一直到80年代，才获得了对于人工神经网络行之有效的算法，同时，在以Von Neumann体系 为依仗的传统算法每况愈下的情况下，人们才又转而对人工神经网络产生了兴趣，这间接导致了神经网络的再起与兴盛[12]。
目前神经网络的研究方法形成了多个流派，最富有成效的研究工作有：多层网络BP算法 ，识别滤波，模式识别与分类，自适应共振理论 等。
在现代神经科学的基础上人工神经网络被提出来，尽管它可以反映人脑功能的基本特征，但远非自然神经网络的传神描写，而某种程度上只是它的抽象、模仿和仿真。在过去几十年的研究中，由于其实际的重要应用性，已经越来越多地研究不了同类型的神经网络。而在许多领域中也得到了成功应用，比如：优化，信号处理和通信。这些应用程序在很大程度上依赖于对潜在的神经网络的动态行为分析。在现实中，在一个系统的振荡器里，在时滞系统中，经常会遇到的各种区和时间延迟有时会是是不稳定的来源。因此，由于有限的开关速度放大器，以及在生物网络电子神经网络或有限的信号传播时间，在神经网络动力学中常有时间的延迟。
1.3时滞系统
系统中存在一处或几处的信号传递有延迟的系统。那么流体在管道中的流动,电信号在长线上的传输，都会一定的时间延迟。时滞系统就包括含有这类元件的系统。对于一个控制系统来说，测量与分析过程都可能会引起时滞，当然时滞也可能由控制执行元件导致[13]。严格地讲，控制系统中的时滞是广泛存在的。学术上讲，时滞系统是指时滞不能忽略的系统，时滞系统属于非最小相位系统 。对于离散时间神经网络唯一的确定时间—延迟情况而言，稳定的标准源又仅基于信息的时间延迟的变化范围。
1.4 马尔科夫
我们先来了解一下马尔科夫的概念：借用前苏联数学家辛钦 的理论，就是承认客观世界中有这样一种现象，其现在决定未来的程度，使得我们关于过去的知识一点也不影响这种决定性。这种在已知“现在”的条件下，“未来”与“过去”两者之间相互独立的特性就被称为马尔可夫性，具有马尔科夫性的随机过程就叫做马尔可夫过程，其最古老的模型就是马尔可夫链[14]。这即是对荷兰数学家惠更斯提出的无后效原理的概率扩展，也是对法国数学家拉普拉斯机械决定论的彻底否认。
我们来了解一个例子：用一个通俗易懂的比喻来形容，一只被切除了大脑的实验白鼠在若干个窟窿间的蹿动就可以构成一个马尔科夫链。因为这只实验白鼠失去了记忆，瞬间而生的念头决定了它从一个窟窿蹿到另一个窟窿；当其所在位置确定时，它下一步蹿往哪一个窟窿与它以往经过的路径无关。
马尔可夫随机场也叫马尔可夫网，其包含两层意义： 
（1）、马尔可夫性质：它指的是一个随机变量序列按时间先后关系依次排开的时候，第N+1时刻的分布特性，与N时刻以前的随机变量的取值无关[15]。我们举个天气的例子，如果我们姑且认定天气是马尔可夫的，也就是我们假设今天的天气只是与昨天的存在概率上的联系，而与前天及更以前的天气没有关系。还有生活中如流行症和舆论谣传等的传播规律，就是马尔可夫的。 我们再观察下市场预测和决策，在一般超市里,顾客这次的消费倾向一般不仅与前一次的购买行为有关,而且可能还与在此之前的若干次消费行为有关,并且转移概率也不会总是不变的。但是如果时间相对很短, 转移概率可以被认为是不变的,可以采用马尔科夫性质分析解决。
（2）、随机场：当给每一个位置中根据某种分布随机赋予相空间的一个值之后，其全体就叫做随机场。我们可以举个种田的例子。其中有两个概念：位置，相空间。“位置”可看做一亩亩农田；“相空间”则被认为是种的各式各样的庄稼。我们可以给不同的地种上各种不同的庄稼，这就可看做相空间里不同的值被赋给随机场的每个“位置”。所以，通俗来讲，随机场就是在哪块地里种什么种类庄稼的事情。 也就是如果任何一块地里种的庄稼的种类只是与它相邻的地里种的庄稼的种类有关，而与其它地里的庄稼的种类无关，那么这些地里种的庄稼的集合，就可称作一个马尔可夫随机场。 

原文链接：http://www.jxszl.com/dzxx/dzkxyjs/1730.html