导读:本文包含了零拷贝论文开题报告文献综述、选题提纲参考文献及外文文献翻译,主要关键词:报文,内存,多核,内核,数据,环状,缓冲区。
零拷贝论文文献综述
赵成青,李宥谋,刘永斌,王涛[1](2018)在《LWIP中零拷贝技术的研究与应用》一文中研究指出LWIP是一种轻量级的TCP/IP协议栈。在运行过程中占用少量的资源,主要应用在低端的嵌入式系统。文中从物理层到应用层,分叁个层次分析了LWIP协议栈的数据传递过程。分别是物理层到协议栈内部的数据传递过程、协议栈内部本身的数据传递过程、协议栈和外部应用程序数据的传递过程。而数据在协议栈内部传递时,通过pbuf缓冲包在各层之间传递数据包的地址指针已经实现了数据在协议栈内部各层之间的零拷贝传递。提出了在物理网卡和LWIP协议栈传递数据、外部应用程序和LWIP协议栈传递数据时的改进方法,避免了数据的两次拷贝,从而实现了数据从物理层直达应用层,提高了系统的传输效率和并发性能。测试结果表明,数据传输速率从未优化的2.04 MB/s提升到9.8 MB/s,已接近网卡性能极限。(本文来源于《计算机技术与发展》期刊2018年07期)
刘峰[2](2017)在《利用PF-Ring零拷贝优化Spark Streaming网络性能》一文中研究指出Spark是基于MapReduce的新型大数据计算框架,在继承了 MapReduce的线性扩展性和容错性的同时也做了重量级的扩展,它的弹性分布式数据集RDD可将计算的中间结果保存在内存,有效的减少了从磁盘读写数据的IO时间,Spark非常适用于执行涉及大量迭代的算法,也能同时兼顾批处理和实时数据分析。Spark已经形成完善的生态系统,支持的应用有Spark Streaming 流式计算、DataFrame、SparkSQL、MLlib、GraphX、SparkR 等。PF_Ring是由Luca Deri设计开发的新型网络socket。具备优化计算机内核收发数据包效率的功能,结合应用程序能够有效的提升数据包捕获速度。PF_Ring通过减少内存拷贝数据包的次数,把接收到的数据分发到不同的环形缓冲区等方式来增加系统捕获数据包的性能。论文提出并证明了分布式计算框架Spark Streaming在处理大量TCP数据包时,网络性能方面存在瓶颈。证明了导致Spark Streaming网络利用率偏低的原因。针对问题原因从PF_Ring零拷贝技术、数据与系统命令分层、多核绑定负载均衡和系统无锁操作方面作为主要切入点,提出定制系统框架的优化方案,证明优化方案达到了预期的效果。文章通过叁个步骤来实现对Spark Streaming流式计算框架的优化,首先根据实验数据结果排除参数配置对Spark Streaming网络性能的影响,证明其网络性能方面存在瓶颈。然后通过优化Linux系统网卡到CPU内核、CPU内核到线程之间的数据调度,减少切换和locality开销,证明单纯网络优化对提升Spark Streaming网络性能具有提升空间,但也存在局限性。最后结合实际应用场景分析Spark底层数据模块处理机制和源代码,将问题原因确定为Spark Streaming在单位时间内处理大量网络IO中断造成内核系统开销过大、冗余的数据拷贝和多核切换带来的性能损耗,提出通过结合PF_Ring开源技术优化底层架构将数据流的收发操作跳过系统内核态,从而既减少系统管理开销又可以避免额外的数据移动。实验数据结果表明,与当前的Spark-1.4.0开源版本相比,利用PF_Ring零拷贝技术优化Spark Streaming能有效降低系统时延、减少系统开销、提高Worker节点网络带宽利用率,能较好地满足接收处理大量TCP数据包的实时计算需求。(本文来源于《广西大学》期刊2017-05-01)
吕民强,吕丹丹[3](2015)在《一种高效的零拷贝报文捕获系统》一文中研究指出针对现有的报文捕获系统暴露性能上不足的问题,分析了报文捕获系统的主要性能瓶颈——数据拷贝、内核中断处理、内存申请和系统调用,为了减少数据拷贝、系统调用开销,提出一种零拷贝报文捕获系统ZPC(Zerocopy Packets Capture System),测试证明,ZPC可以大大降低数据拷贝和系统调用的次数,具有很高性能。(本文来源于《航空计算技术》期刊2015年05期)
王超[4](2015)在《以太网卡零拷贝通用驱动系统的设计与实现》一文中研究指出随着互联网的快速增长,网络在给我们带来极大方便的同时,网络信息安全问题也日显突出。各种网络安全产品应运而生,其中网络数据包捕获技术成为这些网络安全产品的基本核心技术。针对某公司网络安全产品的特定需求,本论文设计并实现了一个以太网卡零拷贝通用驱动系统。论文首先介绍了网络负载均衡系统的架构与相关技术,然后分析了Linux操作系统核心网络协议栈的特点和网络数据处理的一般流程,其中主要分析了协议栈中涉及到零拷贝驱动的相关接口部分和主要数据结构。接着对Linux内核的相关技术进行了研究与介绍,包括内核模块技术和以太网卡驱动结构。之后研究了现存以太网络数据包捕获技术的现状,主要分析了现有的开源解决方案和目前已经实现的各种网络数据包捕获零拷贝技术,并阐述了其中的不足与缺陷。根据分析比较的结果,并结合在实际工作中的大多用户的需求,论文接着对通用以太网卡驱动进行了架构设计,然后详细设计并实现了一款通用以太网卡驱动,最后对通用以太网卡驱动的功能与性能进行了测试验证,同时并与传统数据包捕获方法进行了对比测试。相对于目前现有的零拷贝技术方案,本论文的成果可以提供更好的移植性和更通用的功能,包括可以动态指定零拷贝网卡和兼容Linux核心协议栈等。(本文来源于《中国科学院大学(工程管理与信息技术学院)》期刊2015-09-01)
吕民强,吕丹丹[5](2015)在《一种零拷贝报文捕获系统的性能分析》一文中研究指出文章分析了零拷贝报文捕获系统ZPC(Zero-copy Packet Capture System)的性能瓶颈,为消除ZPC的性能瓶颈,提出用户空间报文捕获系统ULPC(uer-level packet capture system),实验表明ULPC能有效解决ZPC的瓶颈,提升了系统的捕包性能。(本文来源于《电子技术》期刊2015年07期)
吕民强,张玮,吕丹丹[6](2015)在《一种零拷贝报文捕获平台的性能优化》一文中研究指出为了减少中断处理开销和避免用户进程饥饿,通过分析零拷贝报文捕获系统ZPC(Zero-copy Packets Capture System)的性能瓶颈——中断处理开销和用户进程饥饿,提出一种半轮询驱动的零拷贝报文捕获系统SPDZPC(Semi-Polling Driven Zero-copy Packets Capture System),测试证明SPDZPC可以大大降低ZPC的中断次数、解决用户进程饥饿,具有很好的性能。(本文来源于《航空计算技术》期刊2015年03期)
李明明[7](2015)在《基于零拷贝的网络信息安全审计系统的设计与实现》一文中研究指出随着互联网的广泛使用以及信息化程度的提高,大部分企业都会使用互联网处理业务,使得企业办公和管理变得轻松、快捷,企业同时也面临着很多网络安全威胁。对于企业网络而言,企业不仅需要应对来自企业外部攻击行为,也要防范因企业内部员工的不规范操作引起的安全事故。给企业带来安全威胁的因素逐渐由外部因素转为内部因素。现在许多网络安全事故是由企业内部因素引起的。此时,企业就需要一个内部网络信息安全审计系统对网络中所有的网络活动进行全面的检测、审计,以保障企业网络信息安全。因此,研究网络信息安全审计技术具有重要的现实意义。针对高速网络环境以及审计系统的高效性需求,设计并实现了一个高效能深度的网络信息安全审计系统。采用了软硬件方法,将网络信息安全审计设备部署在企业核心业务系统出口处,采用旁路截获(交换机端口镜像)流经网络上的所有数据包,为保证系统尽可能快的处理数据包,采用高速网卡和netmap-Libpcap实现数据包零拷贝抓取,使系统充分利用计算机资源的同时,实现高效的数据包捕获。在数据包网络协议处理部分,采用易于定制的用户态TCP/IP协议栈,使其更加专注于报文的解析、重组和内容还原工作。采用用户空间多线程结构,并使该协议栈针对审计功能进行协议功能的精简和优化,是协议处理开销尽可能的小。最后,对网络信息安全审计系统进行功能展示,可以对内部网络监管、智能审计等功能,系统可以达到软件实际中应用要求,为内部网络安全提供强有力的支撑,保障企业业务系统的正常运营。(本文来源于《华中科技大学》期刊2015-05-01)
肖月振,华蓓[8](2013)在《基于多核处理器的无锁零拷贝数据包转发框架》一文中研究指出为突破高速软件路由器转发路径中存储访问方面的性能瓶颈,分析PacketShader和Netmap 2个软件路由器的转发结构和存在的问题,设计一个基于多核处理器的零拷贝包转发框架MapRouter。采用零拷贝技术去除包转发路径中的包拷贝,并借助并发无锁队列设计一个适合多端口间数据包零拷贝转发的包缓冲区管理方案。将高度优化的包I/O驱动、包缓冲区回收机制、无锁队列实现等一系列优化措施相结合,以提高转发速度。实验结果表明,对于不包括IP路由表查找的最小转发,MapRouter在模拟的两端口路由器上可以达到10 Gb/s的转发速度,与PacketShader和Netmap相比,其转发速度更高、CPU利用率更低。(本文来源于《计算机工程》期刊2013年12期)
张素娟,马军[9](2013)在《零拷贝技术在网络流量控制系统中的应用》一文中研究指出分析数据包的传输过程,分析数据拷贝操作的CPU消耗和时间代价,并研究当前的零拷贝技术PF_RING,设计出一种改进的基于操作系统的零拷贝实现方法,该方法利用Linux的内存共享和DMA技术实现数据包传输过程中内存的零拷贝,同时解决了同步问题,优化了Linux的内存管理,该方法能消除数据包传输过程中内存拷贝对CPU的消耗,缩短数据包行走路径,并进行了测试,结果表明应用零拷贝后系统效率提升明显。(本文来源于《河北联合大学学报(自然科学版)》期刊2013年03期)
贾之豪,魏江,呼婧[10](2013)在《基于PF_DMA的易移植零拷贝捕包方法研究》一文中研究指出零拷贝技术是提高通用计算机报文采集性能的重要技术手段,可以增强网络数据包捕获能力,并降低系统的资源消耗。提出了一种基于PF_DMA的零拷贝报文捕获改进方法,对相关Linux内核函数进行扩展和替换,在不改变原有内核和网卡驱动代码的基础上,实现报文的零拷贝,实验结果表明,该方法保持了PF_DMA捕包的高效率,同时具有更好的通用性和可移植性。(本文来源于《电子设计工程》期刊2013年13期)
零拷贝论文开题报告
(1)论文研究背景及目的
此处内容要求:
首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。
写法范例:
Spark是基于MapReduce的新型大数据计算框架,在继承了 MapReduce的线性扩展性和容错性的同时也做了重量级的扩展,它的弹性分布式数据集RDD可将计算的中间结果保存在内存,有效的减少了从磁盘读写数据的IO时间,Spark非常适用于执行涉及大量迭代的算法,也能同时兼顾批处理和实时数据分析。Spark已经形成完善的生态系统,支持的应用有Spark Streaming 流式计算、DataFrame、SparkSQL、MLlib、GraphX、SparkR 等。PF_Ring是由Luca Deri设计开发的新型网络socket。具备优化计算机内核收发数据包效率的功能,结合应用程序能够有效的提升数据包捕获速度。PF_Ring通过减少内存拷贝数据包的次数,把接收到的数据分发到不同的环形缓冲区等方式来增加系统捕获数据包的性能。论文提出并证明了分布式计算框架Spark Streaming在处理大量TCP数据包时,网络性能方面存在瓶颈。证明了导致Spark Streaming网络利用率偏低的原因。针对问题原因从PF_Ring零拷贝技术、数据与系统命令分层、多核绑定负载均衡和系统无锁操作方面作为主要切入点,提出定制系统框架的优化方案,证明优化方案达到了预期的效果。文章通过叁个步骤来实现对Spark Streaming流式计算框架的优化,首先根据实验数据结果排除参数配置对Spark Streaming网络性能的影响,证明其网络性能方面存在瓶颈。然后通过优化Linux系统网卡到CPU内核、CPU内核到线程之间的数据调度,减少切换和locality开销,证明单纯网络优化对提升Spark Streaming网络性能具有提升空间,但也存在局限性。最后结合实际应用场景分析Spark底层数据模块处理机制和源代码,将问题原因确定为Spark Streaming在单位时间内处理大量网络IO中断造成内核系统开销过大、冗余的数据拷贝和多核切换带来的性能损耗,提出通过结合PF_Ring开源技术优化底层架构将数据流的收发操作跳过系统内核态,从而既减少系统管理开销又可以避免额外的数据移动。实验数据结果表明,与当前的Spark-1.4.0开源版本相比,利用PF_Ring零拷贝技术优化Spark Streaming能有效降低系统时延、减少系统开销、提高Worker节点网络带宽利用率,能较好地满足接收处理大量TCP数据包的实时计算需求。
(2)本文研究方法
调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。
实证研究法:依据现有的科学理论和实践的需要提出设计。
定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。
定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。
跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。
模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
零拷贝论文参考文献
[1].赵成青,李宥谋,刘永斌,王涛.LWIP中零拷贝技术的研究与应用[J].计算机技术与发展.2018
[2].刘峰.利用PF-Ring零拷贝优化SparkStreaming网络性能[D].广西大学.2017
[3].吕民强,吕丹丹.一种高效的零拷贝报文捕获系统[J].航空计算技术.2015
[4].王超.以太网卡零拷贝通用驱动系统的设计与实现[D].中国科学院大学(工程管理与信息技术学院).2015
[5].吕民强,吕丹丹.一种零拷贝报文捕获系统的性能分析[J].电子技术.2015
[6].吕民强,张玮,吕丹丹.一种零拷贝报文捕获平台的性能优化[J].航空计算技术.2015
[7].李明明.基于零拷贝的网络信息安全审计系统的设计与实现[D].华中科技大学.2015
[8].肖月振,华蓓.基于多核处理器的无锁零拷贝数据包转发框架[J].计算机工程.2013
[9].张素娟,马军.零拷贝技术在网络流量控制系统中的应用[J].河北联合大学学报(自然科学版).2013
[10].贾之豪,魏江,呼婧.基于PF_DMA的易移植零拷贝捕包方法研究[J].电子设计工程.2013