导读:本文包含了自然语言生成论文开题报告文献综述、选题提纲参考文献及外文文献翻译,主要关键词:自然语言,注意力,上下文,机制,软件,需求,规约。
自然语言生成论文文献综述
许鑫[1](2019)在《自然语言处理技术在电网预案生成中的应用》一文中研究指出介绍了一种基于自然语言处理技术的电网停电检修预案自动生成的方案。通过应用自然语言处理技术,对大量历史文本数据的分析处理,将分析结果存入领域本体中,从而构建知识图谱。结合规则和本体模型,运用自然语言生成技术,自动生成预案文本。(本文来源于《云南电力技术》期刊2019年04期)
刘承威,杨志斌,周勇,袁胜浩,许金淼[2](2019)在《面向限定自然语言需求的AADL自动生成工具》一文中研究指出在航空、航天、交通、能源等安全关键领域中,软件的失效可能导致系统处于危险状态,从而导致财产损失、环境破坏甚至人员伤亡,如何保障这类软件的可靠性和安全性一直是学术界和工业界共同面临的难题.近年来,形式化模型驱动的安全关键软件设计与验证方法逐渐受到重视,并被认为是切实可行的重要手段.然而,形式化模型驱动开发方法的生命周期一般较少涉及需求阶段,主要原因是当前工业界的软件需求主要通过自然语言文本描述.而安全关键软件引起严重事故的问题链的最上端原因往往又是软件需求尤其是安全性需求的问题. AADL(Architecture Analysis&Design Language)是一种广泛应用于安全关键软件领域的建模语言标准.本文针对自然语言需求和AADL模型驱动开发方法之间还存在鸿沟的问题,研究基于限定自然语言的安全关键软件需求建模及AADL模型自动生成方法.首先,提出一种基于限定自然语言的需求规约方法,通过结构化的需求组织方式及受限的自然语言以减少需求表达中存在的二义性.其次,给出限定自然语言需求到AADL模型的自动转换方法.此外,本文给出一种结构化的验证性质描述模板,并自动转换到AADL组合验证附件AGREE(Assume Guarantee REasoning Environment) Annex,从而支持对AADL模型进行形式化验证.最后,在AADL开源工具环境OSATE中实现了原型工具,并基于航天导航制导控制子系统进行案例分析.(本文来源于《小型微型计算机系统》期刊2019年05期)
张梦洋[3](2019)在《基于自然语言的家用机器人服务知识自主生成机制》一文中研究指出家庭服务具备复杂性和多样性,可以看作是简单动作的逻辑组合,在子任务相互协作下最终满足人们的服务需求。机器人在执行家庭服务的过程中,需要在考虑自身环境的同时具备相应的服务执行概念,即执行服务所需的知识。传统的服务知识主要指在研究者的监督下面向服务整体构建的知识,通过设计相应的服务规则实现对子任务间逻辑关系的规划,并最终形成满足人们需求的服务知识。基于该类方法的知识构建需要消耗大量人力资源,并且构建的知识只能针对特定服务场景,不具备普适性。网络上存储的家庭服务相关的自然语言信息具备完成服务所需的服务要素(如服务工具,执行动作,子任务之间的逻辑关系等),能够为机器人执行服务提供策略性指导。因此,研究机器人如何通过学习和理解服务相关自然语言并将其转化为服务知识有利于提高机器人的服务技能与智能水平,具备重要意义。本文针对复杂的家庭环境,深入研究面向家庭服务的自然语言理解与知识构建的方法,分别从信息表达,策略生成,服务要素提取,以及知识构建四个方面展开。论文主要工作如下:1.针对家庭服务领域的自然语言信息表达,提出一种以服务工具信息为引导的、基于神经网络的文本表示模型,一方面提高该领域信息表达的准确性,另一方面通过引入工具信息增加文本表示模型对服务相关词汇的重视程度。首先,构建基于端到端神经网络模型的工具认知层,根据服务需求生成对应的服务工具信息。其次,在词向量训练阶段引入工具信息,强调服务工具词汇的重要性。最后,在文本向量训练阶段,构建基于服务工具信息的注意力机制,将服务工具信息关联到句向量表达中,并基于句向量完成家庭服务领域的文本表示。2.规范的服务策略能够为机器人执行家庭服务提供指导信息。针对有效策略信息的生成,提出以服务工具信息和词汇关联度引导的、基于强化学习的服务策略生成方法。在策略输出的准确性方面,我们构建基于服务工具信息的激励函数,引导模型生成有效的服务策略信息。在策略输出的稳定性方面,我们通过引入词汇关联度提高模型策略输出的稳定性。针对家庭服务领域训练数据稀缺问题,提出基于一种基于对抗学习的策略生成方法。利用生成式对抗网络模拟策略信息的真实分布,生成具备参考价值的服务策略。3.围绕策略信息中服务要素的提取,提出一种基于强化学习的动作序列生成方法,实现由策略信息向动作序列的转化。动作序列中包含服务要素信息,有利于后续服务知识的自主生成。首先,利用语义解析技术获取策略信息包含的服务要素。其次,提出一种基于物品状态的服务评判方法,评估动作序列的有效性。之后,构建家庭服务仿真平台,模拟机器人的服务执行过程。最后,以仿真平台为交互环境,结合服务评判方法实现基于强化学习的动作序列生成。4.针对服务知识构建,提出一种层次化物品知识库的构建方法,赋予动作序列对应的物品操作知识,并最终形成服务知识。针对服务知识的量化修正,提出一种基于用户评价的服务知识修正方法,通过学习用户评价信息,完成对相关服务动作的调节,并最终实现对服务效果的量化调整。首先,基于服务知识完成对用户评价信息的扩展,提高修正模型的推理能力。其次,利用语义网络规则语言设计服务修正规则,实现由规则条件到规则结论的映射过程。最后,构建基于注意力机制的知识修正模型完成基于用户评价信息的服务知识量化修正。(本文来源于《山东大学》期刊2019-05-13)
肖烨晗[4](2019)在《基于自然语言生成技术的人工智能应用》一文中研究指出本文首先对人工智能、自然语言生成技术进行了简要的介绍,从而对自然语言生成技术在"微软小冰"中的应用、自然语言生成技术在汉语言幽默自动生成中的应用展开分析,并根据人工智能与自然语言技术结合的实例,总结了人工智能和自然语言技术的结合对生活的改变。(本文来源于《科技传播》期刊2019年07期)
陈嘉炜[5](2019)在《基于注意力机制和深度学习的遥感图像自然语言描述生成模型》一文中研究指出在过去几十年中,成像卫星传感器的发展十分迅速。其中光学,合成孔径雷达和其他传感器已经获得了大量遥感数据,为数百万个遥感系统提供了数据来源。相较于传统的卫星传感器,如今的卫星遥感器不仅可以获得较高分辨率的遥感图像,而且已经逐步具备了全天待机、随时传输的能力。高分辨率下的遥感图像相较于以前的低分辨率遥感图像承载了更多的信息,在国家安防、环境污染检测、自然灾害预防等方面发挥着非常重要的作用。虽然遥感图像的尺寸和信息内容在不断地增长,但是由于技术的原因,我们从遥感图像中获取的信息却并没有爆发式的增长。如何尽可能多的获取遥感图像中的信息是目前遥感领域的一个重要研究方向。在诸多提取遥感图像信息的技术中,由遥感图像自动生成人可理解的自然语言技术受到了遥感领域的广泛关注。传统的遥感图像字幕工作主要由两部分组成。第一部分,遥感图像的多目标检测。第二部分,把标签信息处理成自然语言。传统的遥感图像自然语言描述工作具有一定的局限性:(1)遥感图片一般像素大,目标占比小。在卷积神经网络的训练阶段,只关注于目标特征信息的标签,从而导致很多背景信息被忽略。(2)由于传统的遥感图像自然语言处理采用的是经典范式框架,这种框架是基于模板的方法设计的,具有语言限制,并不灵活和人性化,并且有很多信息在模式化中被省略,造成了信息的流失。(3)由于传统的遥感图像字幕工作由两个独立的模块组成,所以训练时必须为每一个独立模块做出相应的数据标注,这样做的后果是大大增加了人工。由于人工代价的昂贵,所以在面临大数据训练时是无能为力的。同时由于每个模块的相互独立,所以最后得到的模型并不能最好的契合数据。近年来,随着深度学习的兴起,基于注意力机制的神经网络成为了最近神经网络研究的一个热点。注意力机制的思想是提高有用信息的权重,从而让任务处理系统更专注于找到输入数据中显着的与当前输出相关的有用信息,从而提高输出的质量。本文分析了传统遥感图像自然语言描述生成模型的工作原理以及特点,通过结合最新的深度学习技术,构造了新的遥感图像自然语言描述生成模型。改进后的模型明显的提高了遥感图像自然语言描述的准确性以及完整性。本文的创新点主要有以下几点:1、为了解决传统遥感图像目标检测过程中的信息丢失问题。本文基于深度学习和注意力机制构建了新的网络结构,我们将其称为密集定位层。密集定位层通过对遥感图片进行切割,可以输出每一个小目标和与其相关的区域块。我们结合密集定位层对传统的卷积神经网络进行了重新架构,从而构建了新的目标检测模型。2、针对传统遥感图像自然语言模型中的描述模式化,信息丢失问题。本文引进了长短期记忆网络,代替了之前的经典范式框架,使得输出更加灵活,减少了信息的丢失。3、由于传统的遥感图像字幕工作由两个独立模块组成,所以必须耗费大量的人力在每个模块的数据标注上。为了解决这个问题,我们构建了新的网络架构——识别网络。识别网络可以将每个候选区域的特征拉伸成一个固定长度的一维列向量。通过识别网络和密集定位层中的双线性插值,我们可以实现遥感图像自然语言描述生成模型的端到端训练,从而省去了为每一个独立模块进行人工数据标注的工作,并且模型可以根据数据来进行更好的自我调节。(本文来源于《吉林大学》期刊2019-04-01)
艾江波[6](2019)在《面向短视频的自然语言生成描述方法》一文中研究指出随着互联网技术的快速发展伴随着的是多媒体数据的大量的累积,其中最为复杂也是最重要的要数大量的视频信息。在二十一世纪的时代,人们的生活水平得到了大量的提升,生活节奏的步伐也是持续的提速,人们的时间显得尤为重要,人们需要花费大量的时间去观看短视频以获取信息已显得尤为累赘。如果能够将视频转化为文字,让用户能够直接快速的阅读简短文字便能获取到相关的信息便显得尤为重要。基于这个前提下,如何能够有效并且快速的将短视频转化为与之相关联的文字信息已经成为目前迫切需要解决的问题。短视频生成文字主要研究的是如何将富含丰富信息的视频数据转化成文字信息,我们也称之为“看图说话”。本质上视觉与语言之间的融会贯通是人类经过漫长的进化与不断的学习而形成的能力。而对于机器而言,这意味着视觉处理与语言处理两个领域之间的衔接。深度学习虽然赋予了机器对一维图片数据、以及二维视频数据比较强的识别理解能力,然而仍面临着在真实应用场景中鲁棒性不足的问题。其中如何有效提取出视频数据丰富的语义信息以及场景信息并且能够有效判断生成的文本信息是否合理、自然显得更为重要。基于深度学习的短视频自然语言生成方法作为一个新兴的研究方向,值得挖掘的地方很多,与此同时,我们面临的挑战也会越来越多。近些年,生成判别网络(GAN)被广泛的运用,其中主要应用于对话系统的设计,图像合成或者增强,文本生成图片等。生成判别网络在这些领域中也取得的极大的成功。我们能发现这些领域大多是文本到文本或者图像到图像的应用,鲜少有人将此方法应用在视频领域。另一方面,根据调研大量论文结果可知,目前学术上绝大部分使用深度学习的方法来做短视频生成自然语言的方法都会用到长短记忆网络或者循环网络。但是实验表明,长短记忆网络或者循环网络在处理时间序列的问题时会出现信息丢失的问题,对于短视频来说,这是一个比较严重的问题并且急需解决,因为在短视频编码阶段和解码阶段都会遇到长序列的输入问题。为了解决上述提到的问题,我们首次提出了将生成判别网络应用到短视频生成自然语言的方法,也就是后面将会提到的LSTM-GAN。在这篇论文中,我们在传统的短视频生成自然语言的基础之上,设计了一个全新的判别网络,通过判别网络,我们能有效的判断出生成的句子是否连贯通顺适于人们理解或者是否和视频内容相关联。通过我们的模型在叁个公开数据集上的实验结果表明,我们的方法有效了提高了短视频生成自然语言的准确性。除此之外,为了解决长短记忆网络在处理序列输入存在的问题,我们分别提出了交叉和条件长短记忆网络(CCLSTM),其中交叉长短记忆网络通过其特殊的编码过程能够较大程度上的减少短视频在编码过程中的信息损失。在解码过程中,我们设计了条件长短记忆网络,通过在每一步对噪音图像信息进行过滤,然后将有用的视觉信息输入解码器,从而避免了在解码过程中视觉信息只输入一次造成生成的文本尽可能拟合真实样本的分布而与视频内容渐行渐远。通过我们的模型在叁个公开数据集的实验表明,我们的方法超过了大多短视频生成自然语言的方法。(本文来源于《电子科技大学》期刊2019-03-20)
张杰晖[7](2019)在《任务型对话系统的自然语言生成研究》一文中研究指出随着人工智能技术的快速发展以及信息数据的不断增长,以数据驱动为核心的深度学习技术在不断更新发展,与人们生活息息相关的交互方式在不断的变化。为人们提供便捷、快速的服务成为了时代的趋势,对话系统应运而生。越来越多的智能产品通过对话的交互方式在改变人们的生活,比如通过语音预订机票、预订餐厅、规划行车路线、智能客服等。通过和系统进行交流获取到自己想要的服务。在这些便捷的产品背后需要一个包含自然语言生成的对话系统支撑。在这些针对特定领域设定出来的对话系统中,自然语言生成模块需要将特定的语义信息转换成用户习惯的自然语言形式的句子。传统的基于规则模板的生成方式由于迁移性差、回复单一死板正在慢慢被取代,而基于神经网络的生成方式由于其灵活性和通用性好受到了越来越多的重视。针对任务型对话系统中系统询问的问题单一死板的问题,我们探索一种基于模板的序列到序列(Seq2Seq)生成模型来生成多样的问题。针对目前一些基于神经网络的生成模型语义对齐能力差、多轮对话过程中语义表达不准确的问题,本论文提出一种基于LSTM和Seq2Seq的多层次注意力机制自然语言生成模型,设计一个上下文编码器对上下文信息进行编码建模,提升模型的语义控制能力,使得对话生成的内容能承接上文的语义,解决多轮对话过程中语义表达不准确的问题;设计一种层级的注意力机制,词层次注意力对当前输入序列信息进行记录保存,句子层次注意力对历史注意力信息序列编码,增加模型解码时的信息量,提升模型的语义对齐和语义控制能力,保证生成单词的准确性,进一步提升语义表述的一致性。同时对对话行为进行语义编码,保证槽值信息输出的准确性。在系统询问问题多样性方面,我们在一个问答数据集上实验验证了提出的方法的有效性以及多样性。在通用性生成方面,论文分别采用了两种不同领域的任务型对话数据对所提出的模型进行有效性验证。最终实验表明,所提出的模型在两个不同的数据集上,BLEU4评价值大约提升3%,生成的文本质量较好。(本文来源于《华南理工大学》期刊2019-03-18)
周长红,原桂远,曾庆田,段华[8](2018)在《复杂产品协同设计流程的多视图自然语言文本生成》一文中研究指出为了业务人员更好地理解复杂产品设计过程的业务流程建模标注(BPMN)模型,以便与系统分析人员进行有效沟通,提出一种基于BPMN模型的复杂产品设计过程多视图自然语言文本生成方法。该方法能够根据业务人员的不同需求对流程模型进行结构投影,进而使用句法分析和语义角色标注解析BPMN流程模型的文本信息,并使用流程结构树(RPST)算法解析BPMN流程模型的结构,从而将流程模型划分成具有层次的子流程片断得到流程结构树。解析的文本信息与不同视图下的流程结构树合并,形成带注释的多视图流程结构树,然后使用语法树由带注释的流程结构树自动生成自然语言文本,最终生成多视图下的自然语言文本。所提方法已在系统中实现,并通过测试集进行实验验证了所提方法的有效性。(本文来源于《计算机集成制造系统》期刊2018年07期)
刘峰[9](2018)在《融合情感因素的自然语言对话生成方法研究》一文中研究指出建立能够与人类进行正常交流的对话系统一直是人工智能领域的一个重要研究目标。自然语言对话在客服服务、在线学习和医疗系统等领域有着广泛的应用,吸引着越来越多研究者的关注。目前大多数的自然语言对话系统是通过序列到序列模型来实现的,然而这些对话系统主要关注于回复内容的语义相关性,忽略了情感状态对于回复生成的影响。情感在人类的日常交流中是非常重要的,丰富的情感状态有助于说话人表达自己的思想。因此,在自然语言对话系统中考虑情感因素的作用是十分必要的。此外,基于序列到序列的模型生成的回复有时会出现词重复、遗漏等语法问题。本文针对这两个问题,分别提出了基于情感编码的自然语言对话生成方法和基于层次注意力模型的情感对话生成方法,文章的主要研究内容如下:1)提出基于情感编码的自然语言对话生成方法。该方法将输入序列的情感状态编码成向量表示融合到回复的生成中,用于促进对话模型生成回复的情感表达能力。该方法主要包括叁个阶段。第一阶段是编码特征学习,将输入序列进行语义编码和情感编码,分别得到编码特征序列和情感向量表示。第二阶段是解码特征学习,主要将情感向量表示、编码特征上下文向量和先前时刻生成词输入到解码器中进行解码特征学习。第叁阶段是输出序列生成,通过多任务学习机制联合词预测损失和情感损失共同学习序列生成模型,并引入新的重排函数用于从生成的回复列表中选出合适的回复。在对话数据集STC上的实验结果表明,与当前序列到序列的对话模型相比,该方法能够有效提高生成回复的情感表达,在自动评估指标和人工标准上都获得了较好的结果。2)提出基于层次注意力模型的情感对话生成方法。该方法利用层次注意力模型动态地计算情感和语义对回复生成的贡献度,主要目的是在融合情感状态的基础上,进一步解决对话模型生成回复时出现的语法问题。该方法主要包含两层结构的层次注意力模型。第一层注意力机制为词级贡献度计算,在每一时刻通过注意力机制实时地计算编码特征序列和先前时刻生成词的贡献度,并将贡献度作为相应的权重计算出当前时刻的语义上下文向量。第二层注意力机制接受语义上下文向量和情感向量表示为输入,利用注意力机制实时地计算语义和情感的贡献度,然后将贡献度作为相应输入的权重融合得到新的上下文向量,最后将计算得到的上下文向量输入到解码器中进行对话模型学习。在对话数据集STC上的结果表明,基于层次注意力模型的情感对话生成方法有效地解决了对话模型生成回复时出现的语法问题。3)设计并实现融合情感因素的自然语言对话原型系统。采用PyQt进行原型系统的操作界面设计,利用Python、Tensorflow与Numpy实现系统的核心算法。原型系统包含对话模型学习和对话模型测试两个模块。通过原型系统的实现验证本文所提方法的可用性和有效性。(本文来源于《江苏大学》期刊2018-04-01)
王飞,杨志斌,黄志球,周勇,刘承威[10](2018)在《基于限定自然语言需求模板的AADL模型生成方法》一文中研究指出随着嵌入式软件系统在汽车、核工业、航空、航天等安全关键领域的广泛应用,其失效将会导致财产的损失、环境的破坏甚至人员的伤亡,使得保障软件安全性成为系统开发过程中的重要部分.传统的安全性分析方法主要应用在软件的需求分析阶段和设计阶段,然而需求与设计之间的鸿沟却一直是软件工程领域的一大难题.正是由于这一鸿沟的存在,使得需求分析阶段的安全性分析结果难以完整而详尽地反映在软件设计中.其根本原因是:当前的软件需求主要通过自然语言描述,存在二义性与模糊性,且难以进行自动化处理.为了解决这一问题,面向构件化嵌入式软件,首先提出了一种半结构化的限定自然语言需求模板用于需求规约,能够有效地降低自然语言需求的二义性与模糊性;然后,为了降低自动化处理的复杂性,采用需求抽象语法图作为中间模型,实现基于限定自然语言需求模板规约的软件需求与AADL模型之间的转换,并在此过程中自动记录两者之间的可追踪关系;最后,基于AADL开源工具OSATE对所提出方法进行了插件实现,并通过航天器导航、制导与控制系统(guidance,navigation and control,简称GNC)进行了实例性验证.(本文来源于《软件学报》期刊2018年08期)
自然语言生成论文开题报告
(1)论文研究背景及目的
此处内容要求:
首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。
写法范例:
在航空、航天、交通、能源等安全关键领域中,软件的失效可能导致系统处于危险状态,从而导致财产损失、环境破坏甚至人员伤亡,如何保障这类软件的可靠性和安全性一直是学术界和工业界共同面临的难题.近年来,形式化模型驱动的安全关键软件设计与验证方法逐渐受到重视,并被认为是切实可行的重要手段.然而,形式化模型驱动开发方法的生命周期一般较少涉及需求阶段,主要原因是当前工业界的软件需求主要通过自然语言文本描述.而安全关键软件引起严重事故的问题链的最上端原因往往又是软件需求尤其是安全性需求的问题. AADL(Architecture Analysis&Design Language)是一种广泛应用于安全关键软件领域的建模语言标准.本文针对自然语言需求和AADL模型驱动开发方法之间还存在鸿沟的问题,研究基于限定自然语言的安全关键软件需求建模及AADL模型自动生成方法.首先,提出一种基于限定自然语言的需求规约方法,通过结构化的需求组织方式及受限的自然语言以减少需求表达中存在的二义性.其次,给出限定自然语言需求到AADL模型的自动转换方法.此外,本文给出一种结构化的验证性质描述模板,并自动转换到AADL组合验证附件AGREE(Assume Guarantee REasoning Environment) Annex,从而支持对AADL模型进行形式化验证.最后,在AADL开源工具环境OSATE中实现了原型工具,并基于航天导航制导控制子系统进行案例分析.
(2)本文研究方法
调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。
实证研究法:依据现有的科学理论和实践的需要提出设计。
定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。
定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。
跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。
模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
自然语言生成论文参考文献
[1].许鑫.自然语言处理技术在电网预案生成中的应用[J].云南电力技术.2019
[2].刘承威,杨志斌,周勇,袁胜浩,许金淼.面向限定自然语言需求的AADL自动生成工具[J].小型微型计算机系统.2019
[3].张梦洋.基于自然语言的家用机器人服务知识自主生成机制[D].山东大学.2019
[4].肖烨晗.基于自然语言生成技术的人工智能应用[J].科技传播.2019
[5].陈嘉炜.基于注意力机制和深度学习的遥感图像自然语言描述生成模型[D].吉林大学.2019
[6].艾江波.面向短视频的自然语言生成描述方法[D].电子科技大学.2019
[7].张杰晖.任务型对话系统的自然语言生成研究[D].华南理工大学.2019
[8].周长红,原桂远,曾庆田,段华.复杂产品协同设计流程的多视图自然语言文本生成[J].计算机集成制造系统.2018
[9].刘峰.融合情感因素的自然语言对话生成方法研究[D].江苏大学.2018
[10].王飞,杨志斌,黄志球,周勇,刘承威.基于限定自然语言需求模板的AADL模型生成方法[J].软件学报.2018