77范文网 - 专业文章范例文档资料分享平台

07032302 BP神经网络在模式识别中的应用 贺骏鹏(3)

来源:网络收集 时间:2020-04-21 下载这篇文档 手机版
说明:文章内容仅供预览,部分内容可能不全,需要完整文档或者需要复制内容,请下载word后使用。下载word有问题请添加微信号:或QQ: 处理(尽可能给您提供完整文档),感谢您的支持与谅解。点击这里给我发消息

哈尔滨学院本科毕业论文(设计)

第二章 人工神经网络概述

2.1 人工神经元模型

神经网络是指用大量的简单计算单元(神经元)构成的非线性系统,它在一定程度和层次上模仿了人脑神经系统的信息处理、存储及检索功能,因而具有学习、记忆和计算等智能处理功能。人工神经网络结构和工作原理基本上是结合人脑的组织结构和活动规律,来反映人脑的某些基本特征,但并不是对人脑部分的真实再现。

人工神经元模型是生物神经元的模拟和抽象。根据生物神经元的结构和工作原理,构造一个神经元如图2-1所示。

图2-1 人工神经元模型

x1 x2 ? w1 w2 wN ? ? u y fxN 2.2 人工神经网络模型

根据神经元之间连接的拓扑结构上的不同,大致可以将神经网络结构分为两种形式,即分层型和相互连接型神经网络。

分层型网络是将一个神经网络中的所有神经元按功能分为若干层,一般有输入层、隐含层和输出层,各层顺序连接。按网络的拓扑结构的不同,可以将分层神经网络细分为简单的前馈型网络、具有反馈型的前馈网络以及层内的互连前馈型网络。相互连接型的神经网络则是网络中任意两个神经元之间相互连接。

随着人工神经网络技术的发展,人们对神经网络的认识已不断进步和完善,提出了许多神经网络模型,其研究应用广泛的神经网络模型是BP神经网络、径向基函数神经网络、自组织竞争神经网络、反馈型神经网络和概率神经网络等。

2.3 神经网络学习特点

人工神经网络与生物神经网络一样,必须要经过学习才具有智能功能。神经网络的学习也称为训练,是通过神经网络所在环境的刺激作用调整神经网络的权值和阈值,使神经网络对外部环境做出反映的一个过程。能够从环境中学习并在学习中提高自身性能是神经网络最有意义的性质,根据学习过程的组织方式不同,学习方式可区分为:有教师的学习和无教师的学习。

7

哈尔滨学院本科毕业论文(设计)

⑴ 有教师的学习

对于有教师的学习,网络训练往往要基于一定数量的训练样本。训练样本通常由输入同量和目标向量组成,在学习和训练过程中,网络需要根据实际输出与期望输出的比较,进行连接权值和阈值的调整,通常将期望输出称为教师信号,它是评价学习的标准,最典型的有教师的学习算法是BP算法,即误差反向传播算法。 ⑵ 无教师的学习

对于无教师的学习,则无教师信号提供给网络,网络能根据其特有的结构和学习规则,进行连接权值和阈值的调整,在该种方式中,网络的学习评价标准隐含于网络内部。

2.4 人工神经网络在模式识别问题中应用优势

人工神经网络,简称神经网络,是对人脑或自然神经网络若干基本特性的抽象和模拟,是一种基于连接学说构造的智能仿生模型,是由大量神经元组成的非线性动力系统。

以生物神经网络为模拟基础的人工神经网络试图在模拟推理和自动学习等方面发展,使得人工智能更接近人脑的自组织和并行处理功能,它在信息处理、模式识别、聚类分析和智能控制等领域应用广泛。神经网络的主要特点是:

⑴ 并行协同处理信息。神经网络中每个神经元都可以根据接受到的信息进行独立的运算和处理,并输出计算结果,同一层的各个神经元的输出结果可以被同时计算出来,然后传输给下一层做进一步处理,体现了神经网络并行处理运算的特点,这使得它具有很强的实时性。

⑵ 知识的分布存储能力。在神经网络中,知识不是存储在特定的存储单元中,而是分布在整个系统中,要存储多个知识就需要更多链接。在计算机中,只要给定一个地址就可以得到一个或一组数据。人根据联想记忆可以正确识别图形,人工神经网络就采用联想记忆的办法来获得存储的知识,保证网络的正确性,提高了网络的容错性和鲁棒性。

⑶ 对信息的处理具有自组织、自学习特点,便于联想、综合和推广。神经网络的神经元之间的连接强度用权值大小来表示,这种权值可以通过对训练样本的学习而不断变化,而且随着训练样本量的增加和反复学习,这些神经元之间的连接强度会不断增加,从而提高神经元对这些样本特征的反映灵敏度。

⑷ 模式识别能力。目前有很多神经网络模型可以善于模式识别。模式识别也是人工神经网络最重要的特征之一。它不但可以能识别静态信息,对实时处理复杂的动态信息也显示强大的作用。虽然模式识别往往是非常复杂的,里面的各个因素相互影响,呈现出复杂多变的非线性关系,但是人工神经网络技术为解决这类非线性问题提供了强有力的方法。

8

哈尔滨学院本科毕业论文(设计)

纵观人工神经网络特点,神经网络处理模式识别问题上,相比其他传统方法,具有以下优点:首先对所处理的问题的了解要求不是很多;其次就是可以对特征空间进行更为复杂的划分;再次它适用于高速并行处理系统的实现。事物发展总是有两面的。人工神经网络也存在自身固有的弱点,如网络需要更多的训练数据,无法获取特征空间中的决策面,以及在非并行处理系统中的模拟运行速度慢等缺点。

2.5 BP神经网络简述

BP网络在神经网络模式识别系统中的应用最为广泛,它是基于误差反向传播算法的一种具有非线性连续转移函数的多层前馈网络。由于多层前馈网络的训练经常采用误差反同传播算法,人们常把多层前馈网络直接称为BP网络。

BP算法的基本思想是最小二乘法学习算法,它采用梯度搜索技术以期望使网络的实际输出值与期望输出值之间的误差均方值达到最小,这是一种可以避免统计平均的递推算法。学习过程由信号的正向传播与误差的反向传播两个过程组成。正向传播时,输入样本从输入层传入,经各隐含层逐层处理后,传递至输出层。若输出层的实际输出值与期望的输出值不符,则转入误差的反向传播阶段。误差反向传播是将输出误差以某种形式通过隐含层向输入层逐层反传、并将误差分摊给各层的所有单元来获得各层单元的误差信号,此误差信号即作为修正各单元权值的依据。这种信号正向传播与误差反问传播的各层权值修正过程是周而复始地进行的。权值不断修正的过程,也就是网络的学习训练过程。此过程一直进行,直到网络输出的误差减少到可接受的程度或者达到预先设定的学习次数为止。其网络的基本结构如图2-2所示,它是三层的BP网络模型,它包含输入层、隐层及输出层。

x

0x

1y.……. 0x

2.……. .……. y0 xn

输入层 隐层 输出层

图2-2 BP神经网络的网络模型

9

哈尔滨学院本科毕业论文(设计)

2.6 BP学习算法及流程图

BP神经网络学习算法解决了多层感知器的学习问题,促进了神经网络的发展。在BP网络学习过程主要在两个方面:

⑴ 工作信号正向传播:指的是输入信号从输入层经隐层神经元,传向输出层,在输出端产生输出信号。在信号的向前传递过程中的权值是固定不变的,每一层神经元的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出,则转入误差信号反向传播。

⑵ 误差信号反向传播:指的是网络的实际输出与期望输出之间差值即为误差信号,误差信号由输出端开始逐层向前传播。在此过程中,网络的权值由误差信号反馈进行相应地调节。通过权值的不断修正使网络的实际输出更接近期望输出。

BP学习算法的流程如图2-3所示:

初始化 给定输入向量和目标输出 求隐层和输出层各单位输出 求目标值与实际输出偏差E E满足要求? Y 全部E满足要求 Y N 求隐层单元误差 求误差梯度 结束 权值学习 图2-3 BP学习算法流程图

10

哈尔滨学院本科毕业论文(设计)

第三章 BP神经网络模式识别

3.1 神经网络模式识别的典型方法

在各种人工神经网络模型中,在模式识别中应用最广泛的也最成功的当数多层前馈网络和自组织网络。其中多层前馈网络多采用有教师的学习方式进行训练,通常有以下两种应用方式:

⑴ 多输出型

网络的每一个输入节点对应样本的一个特征,输出层节点等于类别数,一个输出节点对应一个类。在训练阶段,如果输入训练样本的类别标号是i,则训练时的期望输出设为第i个输出节点为1,其余输出节点均为0。在识别阶段,当一个未知类别的样本作用到输入端时,考察各输出节点的输出,并将这个样本的类别判别为与输出值最大的那个节点对应的类别。在某些情况下,如果输出最大的节点与其它节点输出的差距较小(小于某个阈值),则被认为拒绝决策,这就是多层感知机进行模式识别的最基本方式。

实际上,多输出型神经网络还存在许多其它的形式,上面这种方式只是其中的一个特例。更一般地,网络可以有m个输出节点,用它们的某种编码来代表一个类别。

⑵ 单输出型

这种网络的每一个输入节点对应样本的某一特征,而输出层节点只有一个。为每一个类建立一个这样的网络(网络的隐含层节点数可以不同),对每一类进行分布训练,将属于这一类的样本的期望输出设为1,而把属于其它类的样本的期望输出设为0。在识别阶段,将未知类别的样本输入到每一个网络,如果某个网络的输出接近1(或大于某个阈值,比如0.5),则判断该样本属于这一类;而如果有多个网络的输出均小于阈值,则或者作出拒绝,或者将类别判断为具有最大的那一类;当所有网络的输出均大于阈值时也可采取类似的决策方法。显然,在两类情况下,我们只需要一个单输出网络即可,将一类对应于输出1,另一类对应于输出0,识别时只要输出大于0.5则决策为第一类,否则决策为第二类或者也可以在两类之间设定一个阈值,当输出均在这个阈值之间时被认为拒绝决策。自组织神经网络可以较好地完成聚类的任务,其中,每一个神经元节点对应一个聚类中心,与普通聚类算法不同的是,所得的聚类之间仍保持一定的关系,也就是在自组织网络节点平面上相邻或相隔较近的节点对应的类别,它们之间的相似性要大于相隔较远的类别之间的相似性。因此可以根据各个类别在节点平面上的相对位置进行类别的合并和类别之间关系的分析。

自组织特征映射最早的提出者Kohonen的科研组就成功地利用上述原理进行了芬兰语

11

百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,免费范文网,提供经典小说综合文库07032302 BP神经网络在模式识别中的应用 贺骏鹏(3)在线全文阅读。

07032302 BP神经网络在模式识别中的应用 贺骏鹏(3).doc 将本文的Word文档下载到电脑,方便复制、编辑、收藏和打印 下载失败或者文档不完整,请联系客服人员解决!
本文链接:https://www.77cn.com.cn/wenku/zonghe/1000493.html(转载请注明文章来源)
Copyright © 2008-2022 免费范文网 版权所有
声明 :本网站尊重并保护知识产权,根据《信息网络传播权保护条例》,如果我们转载的作品侵犯了您的权利,请在一个月内通知我们,我们会及时删除。
客服QQ: 邮箱:tiandhx2@hotmail.com
苏ICP备16052595号-18
× 注册会员免费下载(下载后可以自由复制和排版)
注册会员下载
全站内容免费自由复制
注册会员下载
全站内容免费自由复制
注:下载文档有可能“只有目录或者内容不全”等情况,请下载之前注意辨别,如果您已付费且无法下载或内容有问题,请联系我们协助你处理。
微信: QQ: