前向网络论文_李祚泳,汪嘉杨,徐源蔚

导读:本文包含了前向网络论文开题报告文献综述、选题提纲参考文献及外文文献翻译,主要关键词:神经网络,前向,算法,网络,模型,卷积,多项式。

前向网络论文文献综述

李祚泳,汪嘉杨,徐源蔚[1](2019)在《规范变换与误差修正结合的环境系统的前向网络和投影寻踪预测模型》一文中研究指出为了建立适用于环境系统的结构简洁、形式统一、程序规范、应用普适的神经网络和投影寻踪回归预测模型,针对传统的神经网络和投影寻踪回归用于多因子、大样本预测建模,存在模型结构复杂、学习效率低的局限,提出设置环境系统预测量及其影响因子参照值和规范变换式的原则和方法,使规范变换后的影响因子皆"等效"于同一个规范影响因子,从而将多因子的的预测建模简化为等效规范因子的预测建模,使模型结构得到极大地简化,提高了学习效率;此外,为了提高预测模型的预测精度,还提出了对预测样本的模型输出值的误差修正公式.在对环境系统的预测量及其影响因子进行规范变换的基础上,将m个规范影响因子的每个建模样本组成m个"等效"训练样本,应用免疫进化算法优化模型参数,分别建立适用于环境系统的2个或3个规范影响因子的前向神经网络和投影寻踪回归两类预测模型;并依据误差理论,对误差修正公式修正后的模型预测精度的提高进行了严格的数学论证.将基于规范变换与相似样本误差修正相结合的两类预测模型,用于某市5个点位的SO_2浓度预测,并与6种传统预测模型和方法的预测结果进行了比较.结果表明:对同一个预测样本,同类模型的两种不同结构的的预测值及其相对误差都几乎完全相同或彼此相差甚小;此外,两种不同结构的两类预测模型用于5个样本预测,其相对误差绝对值的平均值分别为2.59%、2.67%;2.18%、2.62%,均远小于传统BP神经网络模型的25.72%、传统PPR模型的14.20%、传统SVR模型的22.13%、模糊识别模型的21.57%、组合算子模型的18.36%和多元回归模型的25.31%;而两类模型预测的最大的相对误差绝对值分别为4.11%和3.57%,更加远远小于传统的6种预测模型的37.18%、56.07%、27.40%、32.14%、38.38%和60.26%.实例分析结果证实了误差修正公式对提高模型预测精度具有切实可行性.基于规范变换与误差修正相结合的前向神经网络和投影寻踪回归两类预测模型不仅避免了"维数灾难",提高了学习效率和模型的预测精确度,而且具有简洁、普适、规范、统一和稳定的特点,对其他预测建模也有借鉴作用.(本文来源于《环境科学学报》期刊2019年06期)

邱宇[2](2017)在《基于FPGA的Alexnet前向网络加速》一文中研究指出随着芯片制造工艺和协处理器的不断发展,FPGA芯片内部集成了越来越多的DSP以及片内存储资源,使得FPGA在计算密集型硬件加速方面具有巨大优势。作为典型的计算密集型应用,深度神经网络中的卷积神经网络在人脸识别、图像分割等领域都具有重要的指导意义和应用价值,一直备受学术界和工业界的青睐。然而,目前通用处理器实现卷积神经网络的方法,无法充分挖掘网络模型内部的并行性。在目前对实时性和低功耗的应用需求越来越旺盛的前提下,越来越多的研究人员开始采用FPGA对基于卷积神经网络的应用进行开发。Alexnet作为卷积神经网络领域内具有重要历史意义的一个网络模型,不仅证明了卷积神经网络在复杂模型下的有效性,并使用GPU使大数据训练在可接受的时间范围内得到了结果。因此,研究Alexnet模型的计算加速对复杂模型下卷积神经网络加速的研究具有重要意义。论文以此为研究背景,在充分研究和分析了当前研究成果的基础之上,设计实现了一种基于FPGA的Alexnet前向网络加速器,通过优化模型结构、流水式层间处理以及提高网络并行性来提高网络的整体识别速度。本文的主要研究工作包括:1、对Alexnet前向识别网络性能的主要影响因素进行了研究并对网络模型中激活函数和池化模块进行了优化改进。论文首先对网络模型中存在的并行性计算进行了研究。其次,给出了前向计算过程的分析以及乘法计算量的分析。最后,分析激活函数和池化模块的计算量,并结合激活函数和池化模块比较计算输出最大值的特点以及FPGA的特性,对网络模型进行了优化。在保证输出结果不变的前提下,减少了 397428次比较运算,占激活函数和池化模块优化前计算量的76.4%。2、完成了基于FPGA的Alexnet前向网络关键模块的优化设计。本文首先完成了卷积神经网络内部基本单元的设计及其二维并行加速的设计,分析了二维并行加速的加速比。其次,根据每层输出的缓存结果的数据量大小,对芯片内部的块RAM资源进行合理的分配,从而确定了每层网络的并行度,完成了网络内每一层结构的设计。3、完成了基于FPGA的Alexnet前向网络实现及性能分析。基于FPGA开发平台,完成Alexnet前向网络整体框架设计及实现,编写仿真文件进行验证,并完成对资源使用情况以及设计性能进行分析。给出了前向识别网络中每一层具体所需的计算时间,列出了加速器设计整体的资源使用情况,完成了与GPU、CPU识别速率的对比,并对识别结果的正确性进行了验证。(本文来源于《北京邮电大学》期刊2017-12-01)

张玄武,郑耀,杨波威,张继发[3](2017)在《基于级联前向网络的翼型优化设计》一文中研究指出针对应用遗传算法进行气动优化需要巨大计算量和计算时间的问题,采用将级联前向神经网络作为流场计算的代理模型的方法,能够减少计算量和计算时间.采用类别形状函数(CST)参数化方法,对翼型进行参数化,在限定的范围内随机生成翼型样本,应用样本对级联前向神经网络进行训练,用训练后精度达到要求的级联前向网络作为翼型流场数值计算的代理模型.采用单目标的遗传算法,将级联前向网络和流场数值计算的升阻比作为目标函数,将翼型的CST参数作为单位个体的所有基因,对标准翼型进行优化.数值试验表明,用级联前向网络计算出的升阻比可以达到进行气动优化所需要的精度要求,对于给定的优化目标可以节约大量的计算时间.(本文来源于《浙江大学学报(工学版)》期刊2017年07期)

谢勤[4](2016)在《用于脑运作分析的携环境信息前向网络样本重组树生成算法》一文中研究指出文献~([1-9])提出了血液循环在大脑处理信息的过程中具有时序控制作用,并用量化模型结合结构风险最小化相关理论说明时序控制作用的意义。文献~([10-24])汇总介绍量化模型中的一些细节。为方便同行阅读,我们在2013年也发表了系列综合报告~([25-29])。文献~([31-32])介绍我们开发的一个算法,这一算法实现将一个有向网络分解为一系列前向网络集合。分解出来的前向网络集合可用于分析各种情况对任一细胞活动情况的影响,也可用于搭建精细的神经网络模型,进而用于辅助医学等方面的研究。算法的网络分解能力能符合文献~([1-28])所介绍的大脑处理信息量化方案的要求。算法的设计用到了笔者在2004年论文~([30])中总结的一种算法设计思路,采用这一思路设计的算法有好的可扩展性,文献~([33])将文献~([31-32])介绍的算法升级为DG-FFN SR Trees算法,本文介绍了怎样将文献~([33])介绍的DG-FFN SR Trees算法升级扩展为DG-FFN SR TreesEI算法,升级成的DG-FFN SR Trees-EI算法可用于多种用途。(本文来源于《电子技术与软件工程》期刊2016年24期)

赵芬霞,张与鸿[5](2012)在《前向网络作为模糊函数泛逼近器的一致性分析》一文中研究指出前向神经网络的泛逼近性一直是神经网络的研究热点。本文给出了连续模糊函数的定义,依Hausdorff度量,借助模糊值Bernstein多项式关于连续模糊函数的逼近性质,证明了前向网络作为模糊函数泛逼近器的一致逼近性结果,并通过实例给出了逼近性的具体实现过程。(本文来源于《模糊系统与数学》期刊2012年05期)

吴秋波,吴元,王允诚[6](2011)在《混合学习法前向网络多属性储层参数预测》一文中研究指出应用前向网络描述地震属性和储层参数间的非线性映射关系时,经典的误差反向传播算法存在收敛速度慢,易陷入局部极值等诸多不足。研究了融合粒子群优化算法和误差反向传播算法的混合学习法前向网络多属性储层参数预测技术。粒子群优化算法是一种群体随机搜索演化计算技术,具有较快的收敛速度和较强的全局搜寻能力;误差反向传播算法本质上是梯度下降算法,注重局部搜索。混合学习法为两种学习算法交替执行,首先以粒子群优化算法训练网络,当误差能量在规定的迭代次数内不再发生变化时,采用误差反向传播算法实现局部寻优。理论函数逼近测试和实际储层参数预测实验说明了混合学习法具有学习时间短、求解效率高、可靠性强的优点,具有良好的应用前景。(本文来源于《西南石油大学学报(自然科学版)》期刊2011年02期)

韩利芬,李光耀,韩旭,王卫平,冯剑军[7](2008)在《多层前向网络的动态结构设计方法及其在回弹预测中的应用》一文中研究指出从构造的角度,开展神经网络的动态结构设计研究,提出一种基于泛化的多层前向网络动态结构设计方法,编制了相应的计算程序。在该方法中,基于Ockhams RAZOR原则,从一个较小的基本网络开始,通过动态增加隐结点或隐层,综合运用网络泛化能力的多种改进方法,改进的BP算法以及快速搜索机制和全局搜索机制相结合确定学习速率、动量系数、跳跃因子和正则化系数的方法,采用网络权值的局部和全局调节方案,对多层前向网络进行动态结构设计。上述方法在凸凹弧翻边回弹预测中的应用实例表明,运用该方法设计的网络具有较好的计算精度。(本文来源于《机械工程学报》期刊2008年11期)

王伟,王田苗,魏洪兴[8](2008)在《LS-SVM与多层前向网络的非线性回归性能比较》一文中研究指出在阐述支持向量机(SVM)和最小二乘支持向量机(LS-SVM)的原理并比较了两者的优缺点后,将LS-SVM与多层前向网络中的两种典型网络BP网络和RBF网络,分别应用于装载机载重动态测量的非线性函数回归估计中,对这叁种网络在函数逼近和泛化能力两方面的性能进行比较研究。仿真结果表明,LS-SVM在精度和泛化性能两方面做到了最好的折衷,是用于非线性函数回归分析的一种很有效的方法。(本文来源于《系统仿真学报》期刊2008年01期)

赵贵玉[9](2005)在《多层前向网络泛化能力的研究与应用》一文中研究指出人工网络以其具有自学习、自组织、一定的泛化能力和优良的非线性逼近能力,受到众多领域学者的关注,已经被广泛应用到实际中。BP网络是应用最广的一种网络,训练比较简单,能力强大,但它并不是完美的,仍然有需要改善之处。本文首先介绍神经网络的基本原理和BP网络的基本模型和训练,然后介绍BP网络的一些启发式技巧和作者对BP算法的一些改进,改进的主要目的是提高网络训练速度和泛化能力。实验证明这些改进确实提高了网络的性能,降低了网络的训练难度。(本文来源于《中国人民解放军信息工程大学》期刊2005-04-01)

吕岗,陈小平,赵鹤鸣[10](2003)在《一种优化多层前向网络的IA-BP混合算法》一文中研究指出该文针对免疫算法(IA)在优化较大规模的多层前向神经网络时收敛速度慢的缺点,给出了一种综合免疫算法和BP算法优点的IA-BP混合算法,它首先采用免疫算法进行全局搜索,然后调用BP算法进行局部搜索,从而加快收敛速度。实验结果表明该算法在训练较大规模的前向神经网络时性能要优于免疫算法和BP算法。(本文来源于《计算机工程与应用》期刊2003年27期)

前向网络论文开题报告

(1)论文研究背景及目的

此处内容要求:

首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。

写法范例:

随着芯片制造工艺和协处理器的不断发展,FPGA芯片内部集成了越来越多的DSP以及片内存储资源,使得FPGA在计算密集型硬件加速方面具有巨大优势。作为典型的计算密集型应用,深度神经网络中的卷积神经网络在人脸识别、图像分割等领域都具有重要的指导意义和应用价值,一直备受学术界和工业界的青睐。然而,目前通用处理器实现卷积神经网络的方法,无法充分挖掘网络模型内部的并行性。在目前对实时性和低功耗的应用需求越来越旺盛的前提下,越来越多的研究人员开始采用FPGA对基于卷积神经网络的应用进行开发。Alexnet作为卷积神经网络领域内具有重要历史意义的一个网络模型,不仅证明了卷积神经网络在复杂模型下的有效性,并使用GPU使大数据训练在可接受的时间范围内得到了结果。因此,研究Alexnet模型的计算加速对复杂模型下卷积神经网络加速的研究具有重要意义。论文以此为研究背景,在充分研究和分析了当前研究成果的基础之上,设计实现了一种基于FPGA的Alexnet前向网络加速器,通过优化模型结构、流水式层间处理以及提高网络并行性来提高网络的整体识别速度。本文的主要研究工作包括:1、对Alexnet前向识别网络性能的主要影响因素进行了研究并对网络模型中激活函数和池化模块进行了优化改进。论文首先对网络模型中存在的并行性计算进行了研究。其次,给出了前向计算过程的分析以及乘法计算量的分析。最后,分析激活函数和池化模块的计算量,并结合激活函数和池化模块比较计算输出最大值的特点以及FPGA的特性,对网络模型进行了优化。在保证输出结果不变的前提下,减少了 397428次比较运算,占激活函数和池化模块优化前计算量的76.4%。2、完成了基于FPGA的Alexnet前向网络关键模块的优化设计。本文首先完成了卷积神经网络内部基本单元的设计及其二维并行加速的设计,分析了二维并行加速的加速比。其次,根据每层输出的缓存结果的数据量大小,对芯片内部的块RAM资源进行合理的分配,从而确定了每层网络的并行度,完成了网络内每一层结构的设计。3、完成了基于FPGA的Alexnet前向网络实现及性能分析。基于FPGA开发平台,完成Alexnet前向网络整体框架设计及实现,编写仿真文件进行验证,并完成对资源使用情况以及设计性能进行分析。给出了前向识别网络中每一层具体所需的计算时间,列出了加速器设计整体的资源使用情况,完成了与GPU、CPU识别速率的对比,并对识别结果的正确性进行了验证。

(2)本文研究方法

调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。

观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。

实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。

文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。

实证研究法:依据现有的科学理论和实践的需要提出设计。

定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。

定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。

跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。

功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。

模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。

前向网络论文参考文献

[1].李祚泳,汪嘉杨,徐源蔚.规范变换与误差修正结合的环境系统的前向网络和投影寻踪预测模型[J].环境科学学报.2019

[2].邱宇.基于FPGA的Alexnet前向网络加速[D].北京邮电大学.2017

[3].张玄武,郑耀,杨波威,张继发.基于级联前向网络的翼型优化设计[J].浙江大学学报(工学版).2017

[4].谢勤.用于脑运作分析的携环境信息前向网络样本重组树生成算法[J].电子技术与软件工程.2016

[5].赵芬霞,张与鸿.前向网络作为模糊函数泛逼近器的一致性分析[J].模糊系统与数学.2012

[6].吴秋波,吴元,王允诚.混合学习法前向网络多属性储层参数预测[J].西南石油大学学报(自然科学版).2011

[7].韩利芬,李光耀,韩旭,王卫平,冯剑军.多层前向网络的动态结构设计方法及其在回弹预测中的应用[J].机械工程学报.2008

[8].王伟,王田苗,魏洪兴.LS-SVM与多层前向网络的非线性回归性能比较[J].系统仿真学报.2008

[9].赵贵玉.多层前向网络泛化能力的研究与应用[D].中国人民解放军信息工程大学.2005

[10].吕岗,陈小平,赵鹤鸣.一种优化多层前向网络的IA-BP混合算法[J].计算机工程与应用.2003

论文知识图

网络的训练结果径向基过程神经网络拓扑结构竞争型径向基过程神经网络拓扑结构神经网络结构神经网络训练过程叁层前向神经网络BP算法是有教师指导...

标签:;  ;  ;  ;  ;  ;  ;  

前向网络论文_李祚泳,汪嘉杨,徐源蔚
下载Doc文档

猜你喜欢