管道漏磁检测数据压缩技术的研究

管道漏磁检测数据压缩技术的研究

宗杰[1]2007年在《管道漏磁检测系统数据采集与数据压缩技术的研究》文中进行了进一步梳理管道运输是一种非常重要的运输工具,作为一种经济、高效而且安全的物料运送手段,管道尤其在石油化工以及天然气等产业中具有不可替代的作用。深埋地下的管道由于长时间腐蚀、磨损、压力等原因会产生一些损伤,而管道漏磁检测由于其技术成熟、适用范围广、检测效果好等原因在管道无损检测中得到了非常广泛的应用。但是随着对检测速度、精度的要求越来越高,检测过程会产生非常大的数据量,处理和保存这些数据就超出了现有系统的能力,因此很有必要对现有系统进行改进。FPGA(Field-Programmable Gate Array现场可编程门阵列)具有高速、高集成度和在线可编程等优点,在设计过程中具有极大的灵活性和可靠性,本文中采用XILINX公司的SpartanⅡ系列XS2S100-PQ208。DSP(Digital Signal Processing数字信号处理器)是一种专门为实时、快速实现各种数字信号处理算法而设计的、具有特殊结构的微处理器,本文中采用的是TI公司的TMS320C5509。为了提高系统的性能,本文在数据采集和数据压缩方面进行了研究和改进。整个系统分为两个部分:多通道高速数据采集单元和数据压缩单元。多通道高速数据采集单元是以FPGA为核心,产生控制高速模拟开关和A/D的时序来完成对多通道信号的采集,并将采集到的数据送到数据压缩单元中。数据压缩单元以DSP为核心,对实际采集到的数据采用一阶嵌入式零树编码进行压缩,该算法可以在DSP上实现,它能够对送到DSP中数据进行实时快速的处理,并且可以根据要求随时结束编码。经过大量的实验得出,整个数据采集和压缩的过程能够满足时间的要求,压缩后的数据能够很好地解压缩,并且能够替代原始数据进行存储,满足了设计的要求。

马凤铭[2]2006年在《管道漏磁检测中数据压缩及缺陷定量识别技术的研究》文中提出漏磁检测技术是长距离油气输送管道进行在线检测的主要方法。随着检测数据分辨率、精度和检测总里程的提高,现有的检测设备在数据存储速度和存储容量两方面已无法满足海量检测数据的要求,因此研究适合的数据压缩算法并设计高速的数据采集与存储系统成为设备研制的关键;同时原有的依靠人工定性进行缺陷识别的方法精度差、速度慢,迫切需要管道缺陷的智能定量识别技术。本文针对上述问题研究了管道漏磁检测数据的压缩技术及缺陷的定量识别技术。主要研究工作如下:(1)以典型管道漏磁检测图像为例,分析了管道漏磁图像区别于普通数字图像的特点及统计特性;分析了不同分辨率、不同精度的管道漏磁图像在统计特性上的差异。(2)研究了预测编码在漏磁图像无损压缩中的应用,提出了适合8位漏磁图像的预测模型;研究了整数小波变换及嵌入式小波编码算法在漏磁图像无损压缩中的应用,提出了改进的无链表SPIHT零树编码算法;针对不同分辨率、不同精度的漏磁图像的特点提出了两套数据无损压缩方案。对8位低分辨率漏磁图像使用预测编码和算术编码相结合的压缩方案;对12位较高分辨率的漏磁图像则在预测编码后,进行整数小波变换,然后使用改进的无链表SPIHT零树编码算法进行编码。(3)提出了漏磁图像中缺陷的分割方案。漏磁图像经去提离值影响等预处理后,使用最大类间方差法进行图像分割,然后进行膨胀运算等后处理得到完整的缺陷图像,从中提取出缺陷的长度和宽度等部分特征参数。(4)研究了基于感兴趣区域的漏磁图像无损压缩方法。对已分割出的缺陷区域,以一个可包含缺陷的最小矩形作为感兴趣区域,只对感兴趣区域的数据进行压缩存储。(5)利用有限元分析软件ANSYS建立管道缺陷漏磁检测装置的模型,对漏磁信号与缺陷参数之间的关系进行了研究;使用BP神经网络分别对仿真缺陷和人工缺陷进行了缺陷参数的识别,识别结果基本满足检测要求;对轴向漏磁信号和径向漏磁信号进行数据融合后,BP神经网络的识别结果得到了改善。(6)针对现有管道漏磁检测装置的不足,提出了基于单片FPGA的管道漏磁检测数据采集与压缩存储系统的设计方案,并对其中多通道采样控制、预测编码、整数小波变换及改进的无链表SPIHT零树编码、硬盘的文件存储控制等几个关键部分进行了研究。

成伟[3]2012年在《漏磁数据无损压缩系统的设计及实现》文中研究说明管道漏磁检测是一种非常重要的无损检测手段。而由于现实中的输油管道通常很长,所以通过漏磁检测方法一次所检测的数据量非常庞大。而对于管道内狭小的空间和有限的存储设备,必须要对采集来的数据进行压缩。通常采用无损压缩模式以便后期能够对检测的数据进行分析和处理。本课题采用LZW算法对采集得来的漏磁数据进行压缩。本文首先介绍了管道漏磁检测的一些基本知识以及数据压缩技术的基本原理。然后设计了一个基于FPGA的漏磁数据无损压缩系统,该系统包含漏磁数据采集模块、输入数据缓存模块、字典存储、维护与更新模块、LZW压缩模块、输出存储模块以及时钟发生模块等多个模块。并对这些模块采用分别设计的办法,其中数据的采集是由一个漏磁检测试验平台得来。输入数据的缓存采用异步FIFO的设计,并且调用Xilinx公司的IP核设计,这样节约了时间,简化了设计,最为重要的是解决了跨时域的问题。字典模块的设计是整个系统设计的核心,在这里采用双口RAM设计。最后就是实现对LZW算法的功能仿真,分为叁个部分,第一是对输入数据为短字符串的仿真,其目的在于验证本设计中LZW算法的逻辑功能是否正确,另一方面也间接证明了数据压缩主要是压缩数据的相关性和冗余度的理论。而后分别对摘抄的英文文摘和实验室获取的漏磁数据进行压缩仿真,对文摘的仿真可以说明LZW算法对一般的文本压缩的压缩效果,具有普遍性。而对漏磁数据的压缩,获得了非常可观的压缩效果。如果应用到管道漏磁检测领域,那么将极大地节省存储空间,节约经济成本。

郭彬[4]2008年在《油气管道漏磁检测系统数据采集与压缩技术的研究》文中认为管道缺陷内检测是在役油气管道缺陷检测的重要手段之一,对保障管道安全运行发挥着重要的作用。漏磁检测技术是长距离油气输送管道进行在线检测的主要方法,随着检测数据分辨率、精度和检测总里程的提高,现有的检测设备在数据存储速度和存储容量两方面己无法满足海量检测数据的要求,因此研究适合的数据压缩算法并设计高速的数据采集与存储系统成为设备研制的关键。FPGA(Field-Progr-ammable Gate Array现场可编程门阵列)具有高速、高集成度和在线可编程等优点,在设计过程中具有极大的灵活性和可靠性,本文中采用XILINX公司的Spartan II系列XS2S 100-PQ208。DSP(Digital Signal Processing数字信号处理器)是一种专门为实时、快速实现各种数字信号处理算法而设计的、具有特殊结构的微处理器,本文中采用的是TI公司的TMS320C5509。为了提高系统的性能,本文在数据采集和数据压缩方面进行了研究和改进。整个系统分为两个部分:多通道高速数据采集单元和缺陷漏磁数据压缩单元。多通道高速数据采集单元是以FPGA为核心,产生控制高速模拟开关和A/D的时来完成对多通道信号的采集,并将采集到的数据送到缺陷漏磁数据压缩单元中。缺陷漏磁数据压缩单元以DSP为核心,对实际采集到的数据采用一阶嵌入式零编码进行压缩,该算法可以在DSP上实现,它能够对送到DSP中的数据进行实时快速的处理,并且可以根据要求随时结束编码。经过大量的实验得出,整个数据采集和压缩的过程能够满足时间的要求,压缩后的数据能够很好地解压缩,并且能够替代原始数据进行存储,满足了设计的要求。

夏克[5]2009年在《管道漏磁检测实时数据压缩的研究》文中进行了进一步梳理随着在线管道检测技术的发展,油气管道的安全检测越来越受到重视,管道漏磁检测是目前管道检测中一种十分有效的方法。然而,漏磁检测采集的原始信号数据量庞大,而且随着管道漏磁检测系统分辨率的提高,数据量将呈平方级增大。巨大的数据量显然给信号的存储和处理带来极大的困难。为了提高现有输油管道漏磁检测系统的检测精度以及扩展系统的适用范围,为了使其适用于更高精度和更长距离的在线检测,因此,设计一种适合管道漏磁数据特点的压缩算法,减轻海量数据对系统造成的压力是十分必要的。本文在总结国内外诸多数据压缩方案的基础上,选择了整数提升小波编码作为管道漏磁检测系统信号数据压缩的方法。小波信号分解提供了一种灵巧的表示,为压缩技术提供了有效的工具。而整数提升小波变换被称为“第二代小波”,具有更高的压缩效率。管道漏磁数据经整数提升小波变换后得到整型小波系数,然后将经过整数分解的小波系数采用自适应算术编码进行压缩。自适应算术编码克服了霍夫曼编码的缺点,可以更逼近无损压缩编码的极限。自适应是指根据当前符号和已编码符号来更新概率估计,每次只对一个符号进行编码,故每次只需对单独的符号进行概率统计,从而提高了算法的效率。这样从算法的角度可以满足系统实时性的需要。为了实现对管道漏磁数据的实时采集、压缩和存储,本文采用了双缓冲区的体系结构,确保了实时数据能够正确的存储。在基于双缓冲区模型的体系结构下,采用整数提升小波变化与自适应算术编码相结合的压缩算法对管道漏磁数据进行无损的,实时的压缩。压缩比能够达到9.166:1。经实验证明可以满足管道漏磁检测系统的要求。

张双楠[6]2009年在《管道漏磁检测实时数据压缩算法的实现》文中研究表明漏磁检测是长距离油气输送管道进行在线检测的主要方法。应用管道漏磁在线检测装置可以及时检测出管道的缺陷,预防管道泄漏事故的发生。由于存储漏磁检测数据所用电子硬盘存储数据量少,因此需要有实时的数据采集、压缩、存储系统。本文开发了基于ARM(Advanced RISC Machines,高级精简指令集计算机)的嵌入式为核心的处理器平台,用于实现管道漏磁检测数据的实时采集、压缩与存储。论文提出了一种新型的以ARM处理器为核心的系统设计方案。针对漏磁检测无损压缩的目的、应用及漏磁检测原理和漏磁检测数据特征的研究,利用了LZW算法和Hash表的理论,提出了对漏磁检测数据进行实时无损压缩的算法。实时无损压缩算法采用了LZW算法对漏磁检测数据进行无损压缩,Hash表算法管理LZW算法的字符串表的方法。最后基于ARM硬件平台嵌入Linux操作系统,开发了基于Linux的采集设备驱动程序,并应用嵌入式技术实现了系统应用软件完成漏磁数据的采集、压缩与存储。利用嵌入式ARM处理器的优势,进行软硬协同设计;利用ARM处理器的数据采集模块,提高了系统的运算能力和可靠性,Linux操作系统的使用提高了前端数据的采集精度,简化了与外围设备的通信,进一步缩短了开发周期,降低了开发成本,同时漏磁检测数据实时压缩算法满足2倍以上的压缩比,实时压缩数据。针对系统设计实现的各功能模块,分别给出了验证方法及结果。实验表明:各功能模块运行稳定、性能良好,可以应用于管道漏磁检测数据压缩系统中。

张华良[7]2003年在《管道漏磁检测数据压缩技术的研究》文中提出为了提高现有输油管道漏磁检测系统的检测精度以及扩展系统的适用范围使其适用于天然气输送管道的检测,需要通过减小采样时间间隔和空间间隔的方法以获得更加完备的漏磁场信息。由此产生的海量数据会超出现有系统的处理能力,数据压缩是解决此问题的有效手段。由于新型管道漏磁检测器将以现场可编程门阵列器件(FPGA:Field Programmable Gates Array)作为系统核心,数据压缩算法必须适合于硬件实现。本文结合课题,在对数据压缩的原理和方法进行深入分析的基础上,分别利用霍夫曼编码和小波编码等方法实现了管道漏磁检测数据的压缩。压缩算法中不使用乘除法运算,非常适合于硬件实现并具有很好的实时性;通过对重要数据和非重要数据分别进行无损压缩和有损压缩,算法在保留所有检测相关数据的基础上可以达到10:1以上的压缩比。 本文在绪论部分介绍了课题的来源和意义以及国内外在管道漏磁检测数据压缩方向上的研究情况。第二章通过对管道漏磁检测原理和检测器结构的介绍,说明漏磁检测数据的特征并结合检测结果的分析方法提出对管道漏磁检测数据的检测无损压缩要求。第叁章简介数据压缩的有关理论和方法。第四章讨论了课题中采用的霍夫曼编码、预测编码和小波变换编码的理论和方法。在第五章通过数据变化阈值和数据动态范围阈值判断数据重要性,分别采用行差分数据的霍夫曼编码方法以及提升小波变换和层次树集分割(SPIHT)编码方法实现了数据的检测无损压缩。第六章首先介绍了FPGA的结构和设计流程,然后介绍了压缩算法硬件实现的有关内容。总结部分对整个论文工作进行了总结。

李訸[8]2012年在《管道漏磁检测数据的分类压缩方法的研究》文中研究说明随着国民经济的发展,管道以其独特的优势,在长距离输送原油或者成品油的过程中正发挥着不可替代的重要作用。但长时间的运行使管道老化、腐蚀现象严重,导致管道泄漏事故频频发生,造成了重大的经济损失、环境污染和安全隐患。快速准确地检测出管道缺陷,对于保护国家财产和自然环境具有重大的意义。管道智能漏磁检测装置以管道输送介质为动力,直接对管道进行在线无损检测,是当前国内外公认的最完善的管道检测手段。然而,当检测设备对管线进行在线检测时,庞大的数据量显然给实时在线检测信号的存储和处理带来极大的困难。管道漏磁检测数据及其宝贵,对管道漏磁数据进行压缩势在必行。本文以863项目“海底管道漏磁检测”为背景,针对上述提出的问题做出如下的主要工作:首先,分析漏磁检测数据的特征,漏磁检测原始数据由健康数据,缺陷数据和非缺陷数据(噪声)组成。采用一阶差值处理方法和动态范围阈值方法,分割原始数据重要区域,进而实现智能的数据分类方法。其次,研究数据压缩的原理和概念,比较各类压缩算法的特点,确定最终的压缩算法。再次,针对管道漏磁检测的缺陷数据的特点,同时考虑硬件实现的简单性和数据压缩的实时性,最终决定采用霍夫曼编码对缺陷数据进行无损压缩。论证自适应霍夫曼算法的优越性,并采用Matlab编制程序,对算法进行了测试。最后,采用LZW (Lempel-Ziv-Welch)编码算法对数据量最大的健康数据进行无损压缩。分析经典LZW编码存在的不足,在字典存储,匹配长度编码和查找效率叁个方面对算法提出优化。接着经过反复实验,对改进算法的各项参数的取值做了总结和分析,论证改进LZW编码算法的正确性和可行性。

李春光[9]2007年在《管道漏磁检测数据实时处理技术的研究》文中进行了进一步梳理漏磁检测是长距离油气输送管道进行在线检测的主要方法。应用管道漏磁在线检测装置可以及时检测出管道的缺陷,预防管道泄漏事故的发生。由于检测装置运行于管道之中,因此需要有实时的数据采集与存储系统。本文结合SOPC嵌入式开发技术,开发了基于FPGA(Field Programmable Gate Array,现场可编程门阵列)的嵌入式NiosⅡ系统,用于实现管道漏磁检测数据的实时采集、压缩与存储。论文首先分析了将FPGA与处理器相结合应用于漏磁检测系统中的不足,提出了一种新型的以NiosⅡ软核处理器为核心的系统设计方案,设计了基于单片FPGA的NiosⅡ硬件系统。接着研究了小波变换理论以及SPIHT压缩算法,实现了提升小波变换与SPIHT编码算法相结合的管道漏磁数据的编码方案。最后基于NiosⅡ硬件平台嵌入uClinux操作系统,开发了基于uClinux的采集设备驱动程序,并应用多线程技术实现了系统应用软件完成漏磁数据的采集、压缩与存储。针对系统设计实现的各功能模块,分别给出了验证方法及结果。实验表明:各功能模块运行稳定、性能良好,可以应用于管道漏磁检测设备中。本系统具有如下特点:利用SOPC技术的优势,能够根据系统需求随时增减设备组件,自由的进行软硬协同设计;利用FPGA控制数据采集模块,提高了系统的运算能力和可靠性,同时为支持多路数据采集提供了保障;uClinux操作系统的使用提高了前端数据的采集精度,简化了FPGA与外围设备的通信,进一步缩短了开发周期,降低了开发成本。

马凤铭[10]2004年在《基于FPGA的管道漏磁检测控制系统的研究与设计》文中研究说明为了提高现有输油管道漏磁检测系统的检测精度以及扩展系统的适用范围使其适用于天然气输送管道的检测,需要通过减小采样时间间隔和空间间隔的方法以获得更加完备的漏磁场信息,由此产生的海量数据会超出现有系统的处理能力,因此现有系统必须加以改进。 FPGA(Field-Programmable Gate Array现场可编程门阵列)是近年来广泛应用的超大规模、超高速的可编程逻辑器件,由于其具有高集成度(单片集成的系统门数达上千万门)、高速(200MHz以上)、在系统可编程等优点,为数字系统的设计带来了突破性变革,大大推动了数字系统设计的单片化、自动化,缩短了单片数字系统的设计周期、提高了设计的灵活性和可靠性。在超高速信号处理和实时测控方面有非常广泛的应用。 我们以FPGA作为新型管道漏磁检测器的系统控制核心,对基于FPGA的管道漏磁检测控制系统进行了研究与设计。设计共分为叁个单元:多通道采样控制单元、数据处理单元和数据存储控制单元,实现了多通道采样控制、数据压缩、数据的硬盘存储控制等功能。实验证明,基于FPGA的多通道控制单元可以对多个通道进行高速数据采集;数据处理单元正确地实现了提升小波变换和霍夫曼编码;数据存储控制单元可实现2.4MB/s的数据硬盘存储速度。各部分功能完全可以满足设计要求。所有设计均用VHDL编制。 本文在绪论部分介绍了课题的来源和意义以及国内外在管道漏磁检测方向上的研究情况。第二章介绍了FPGA的结构和设计流程。第叁章介绍了多通道采样控制器的设计。第四章介绍了提升小波变换和霍夫曼编码以及它们的FPGA实现。第五章介绍了IDE接口及数据的硬盘直接存储的FPGA实现。总结部分对整个论文工作进行了总结。

参考文献:

[1]. 管道漏磁检测系统数据采集与数据压缩技术的研究[D]. 宗杰. 沈阳工业大学. 2007

[2]. 管道漏磁检测中数据压缩及缺陷定量识别技术的研究[D]. 马凤铭. 沈阳工业大学. 2006

[3]. 漏磁数据无损压缩系统的设计及实现[D]. 成伟. 电子科技大学. 2012

[4]. 油气管道漏磁检测系统数据采集与压缩技术的研究[D]. 郭彬. 青岛科技大学. 2008

[5]. 管道漏磁检测实时数据压缩的研究[D]. 夏克. 沈阳工业大学. 2009

[6]. 管道漏磁检测实时数据压缩算法的实现[D]. 张双楠. 沈阳工业大学. 2009

[7]. 管道漏磁检测数据压缩技术的研究[D]. 张华良. 沈阳工业大学. 2003

[8]. 管道漏磁检测数据的分类压缩方法的研究[D]. 李訸. 东北大学. 2012

[9]. 管道漏磁检测数据实时处理技术的研究[D]. 李春光. 沈阳工业大学. 2007

[10]. 基于FPGA的管道漏磁检测控制系统的研究与设计[D]. 马凤铭. 沈阳工业大学. 2004

标签:;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  

管道漏磁检测数据压缩技术的研究
下载Doc文档

猜你喜欢