论文人工神经网络现状综述是适合人工神经网络论文写作的大学硕士及相关本科毕业论文，相关人工神经网络基本原理开题报告范文和学术职称论文参考文献下载。
摘 要：人工神经网络是20世纪80年代以来人工智能领域兴起的研究热点,本文基于有监督和无监督学习将神经网络分为前馈神经网络和递归神经网络,详细分析了两类神经网络的特点,综述了两类神经网络的现状,根据各自的特点指出了解决收敛较慢且容易陷入局部极小问题的有效方法.
关键词：人工神经网络；前馈神经网络；递归神经网络
中图分类号： TP183 文献标识码： A 文章编号： 1673-1069（2017）06-165-2
1 绪论
人工神经网络（Artificial Neural Network, ANN）是由大量处理单元互联组成的非线性、自适应信息处理系统.它是在现代神经科学研究成果的基础上提出的,试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理.ANN通过模仿人类大脑的结构和功能,并借鉴生物神经科学的研究成果,实现对信息的处理,是一种新兴的交叉学科,不但推动了智能化计算的应用和发展,同时也为信息科学和神经生物学的研究方法带来革命性的变化,现已成功应用于脑科学,认知科学,模式识别,智能控制,计算机科学等多个领域.
在实际应用中,人工神经网络的选取通常包括适当的神经网络模型,合理的网络结构及快速有效的网络参数训练算法[1].而针对某一特定网络模型,ANN的研究主要集中在结构的调整和训练算法的改进两个方面.所谓神经网络训练,也就是网络参数的学习和调整,是一个反复调节节点之间权值和阈值的过程,其学习可以分成三类,即有监督学习（Supervised learning）,无监督学习（Unsupervised learning）和强化学习（Reinforcement learning）,本文基于有监督和无监督学习进行分类,分别分析了前馈神经网络的特点及研究现状、递归神经网络的特点及研究现状.
2 前馈神经网络
2.1 前馈神经网络的特点
前馈神经网络的主要种类包括：感知器,线性神经网络,BP网络,径向基网络（RBF）等.其训练算法主要采用梯度下降法（Gradient descent）,包括：误差反向传播算法（Back Propagation, BP）,改进的BP算法,Levenberg-Marquardt法（LM）等.前馈神经网络具有学习简单,收敛较快等优点,因此在实际应用中,一般选取三层或以上的网络结构,神经网络的任意逼近定理指出,训练合适的多层前馈神经网络能够以任意精度逼近任意连续函数[2].当网络结构已知的情况下,训练前馈神经网络的本质就是确定最优权值和阈值的方法,前馈神经网络的训练方式一般采用网络理想输出和实际输出的误差作为权值调整信号,解空间一般是多峰函数,由于训练过程中很容易陷入局部极小,因此网络的训练目标就是求解一组最优的权值,使误差达到最小.
传统的误差反向传播算法由于为网络的训练提供了简单而有效的实现途径,目前已成为研究和应用最广泛的有监督学习算法.但BP算法存在许多问题,例如在多层网络中收敛较慢且容易陷入局部极小,而且不能对多个网络进行同时训练[3].改进的BP算法有多种形式,主要有通过附加动量和学习率的引入改进BP网络的自适应能力等方法,附加动量方法虽然在一定程度上改善了易陷入局部极小的问题,仍然存在收敛速度较慢的问题.调整学习率方法通过将学习率限制在一定范围内自动调整,虽然能够提高网络收敛速率,但对权值的改变和影响并不大,仍然导致误差较大问题.LM法具有训练时间段,收敛速度快的优点,但由于LM法需要计算误差的Jacobian矩阵,这是一个复杂的高维运算问题,需要占用大量系统存储空间,同时,LM也存在易陷入局部极小的问题[4、5].
2.2 前馈神经网络的研究现状
在传统的神经网络训练过程中,预估校正法或者经验选择是最常被使用的网络结构选取方式[6].在训练和优化网络权值和阈值过程中,训练算法在上述分析中已知,存在着容易陷入局部最优并且难以跳出的缺点,因此误差函数要求必须是连续可求导的函數.因此,这些权值训练方法常和进化算法等全局搜索算法相结合.使用全局搜索算法的全局搜索能力帮助网络跳出局部极小.在编码时采用实数编码,克服二进制编码受到编码串长度和精度的限制.例如,Sexton等人用一种改进的遗传算法优化前馈神经网路权值,结果表明改进的算法使网路训练精度得到显著提高[3].Abbass通过将传统BP算法和差分进化算法相结合,提出了一种的新的权值训练方法并用于乳腺癌的预测实验,取得较好结果[7].Iionen等人使用差分进化算法对前馈网络的权值进行训练和优化,将优化结果和其他几种基于梯度下降的网络训练方法比较,结果表明该方法具有较好的精度[8].更多研究成果表明,将DE、PSO应用于网络权值在线训练和优化具有明显优势,这些改进方法也成功应用在了医学和工程技术等领域[9、10].
此外,多种优化算法相结合也被证明是有效的.例如,在文献[11]中,作者提出了一种DE和LM相结合的神经网络快速训练方法.Liu等人提出一种粒子群算法（Particle Swarm Optimization, PSO）和共轭梯度算法相结合的混合算法,并将其应用于神经网络的权值优化[12].在优化过程中,首先确定网络结构,然后使用PSO的全局搜索能力获得最后权值组合,最后使用传统方法进行权值微调,取得较好结果.在文献[13]中,作者采用相反方式将基本PSO和传统BP算法相结合使用,首先用BP算法对网络权值进行计算,然后使用PSO对网络结构固定的权值进行优化和改进.有学者提出一种具有控制参数自适应选择能力的差分进化算法,用于训练前馈网络,并将该方法用于奇偶分类实验中,将实验结果和几种其他方法进行比较得知,提出的方法具有更好的准确性.Epitropakis等人在训练离散Pi-Sigma神经网络实验中,采用一种分布式离散差分进化算法和分布式离散PSO算法相结合的方式.该离散网络仍然是一种多层前馈网络,在输出层,通过将神经元求积的方式获得输出,作者认为这种整数权值的离散方式更适合用于硬件实现[14].在离散化权值方面,Bao等人的工作表明,通过采用一种可重建的动态差分进化算法,可以有效用于训练固定结构的网络权值.
总结:本论文可用于人工神经网络论文范文参考下载，人工神经网络相关论文写作参考研究。
参考文献：
1、 人工神经网络预测混凝土柱屈服性能 摘 要：建立了一种基于人工神经网络的矩形混凝土柱屈服性能预测方法 该方法采用经验模型进行柱屈服性能影响因素的分析来确定该神经网络的输入参数，并通。
2、 基于OpenCV的人工神经网络人脸面部表情识别 摘要：为克服传统模板匹配方式识别人脸面部表情存在的缺陷，以便更好地进行人机交互，采用Bp神经网络技术，有效快速获取不同面部表情的特征，进而对面部。
3、 人工神经网络在湖北省地区生产总值拟和中应用 [摘要]在“十二五”背景下，湖北省作为华中地区的重要省份，发挥着不可替代的作用。地区生产总值是衡量一个省份综合经济水平的重要因素，从而备受关注。。
4、 青海省文化产业现状综述 摘 要：本文以知网中学术期刊发表及收录的全部与青海省文化产业相关研究成果为素材，总结对于青海省文化产业研究的研究者、选题、研究内容等体现出的特点。
5、 我国政府信息资源管理现状综述 中图分类号：G203 文献标识：A 文章编号：1674-1145（2018）2-000-01摘 要 随着我国科技水平提高，信息技术也有了极大的。
6、 我国上市公司R&D信息披露现状综述 摘 要：R&D活动是企业生存与发展的基础，规范披露R&D信息不仅有利于投资者，也有利于企业本身。本文将探讨我国上市公司R&D信息披露的现状，R&。