网络信息采集与处理的装置和方法.pdf

上传人:t**** 文档编号:4065876 上传时间:2018-08-13 格式:PDF 页数:12 大小:2.13MB
返回 下载 相关 举报
摘要
申请专利号:

CN201510007178.3

申请日:

2015.01.07

公开号:

CN104506373A

公开日:

2015.04.08

当前法律状态:

撤回

有效性:

无权

法律详情:

发明专利申请公布后的视为撤回IPC(主分类):H04L 12/24申请公布日:20150408|||实质审查的生效IPC(主分类):H04L 12/24申请日:20150107|||公开

IPC分类号:

H04L12/24; H04L12/26

主分类号:

H04L12/24

申请人:

国家计算机网络与信息安全管理中心; 北京哈工大计算机网络与信息安全技术研究中心

发明人:

高昕; 彭文韬; 邹潇湘; 段文良; 唐积强; 董琳; 金暐

地址:

100029北京市朝阳区裕民路甲3号

优先权:

专利代理机构:

合肥市长远专利代理事务所(普通合伙)34119

代理人:

程笃庆; 黄乐瑜

PDF下载: PDF下载
内容摘要

本发明涉及网络数据管理领域,具体涉及一种网络信息采集与处理的装置和方法。针对现有网络信息采集与处理的整体处理速度和系统的整体稳定性不佳的问题,本发明提供的网络信息采集与处理的装置,由配置管理模块、实时数据采集模块、实时数据处理模块、数据缓冲模块、数据存储模块组成,具有松散耦合性,扩展性强,易维护。本发明提供的网络信息采集与处理的方法,实时数据采集模块采用分布式集群采集方案,通过配置策略将采集任务分发给N(N>1)个程序去执行,实时数据处理模块采用分布式流式计算框架,通过N(N>1)个程序来完成对大量采集数据的计算与处理,可以确保数据处理速度更快。

权利要求书

权利要求书1.  一种网络信息采集与处理的装置,由配置管理模块、实时数据缓冲模块、实时数据采集模块、实时数据处理模块和存储模块组成:配置管理模块主要对实验任务、设备的基本信息、采集项的配置和场景发现策略配置进行管理;实时数据缓冲模块主要对各模块的通讯消息进行存储与分发,采用消息中间件来处理各模块之间的消息通讯及数据的缓存;实时数据采集模块主要负责根据采集频率对网络空间环境下的主机/服务器、路由器、交换机和防火墙的设备信息进行实时采集,同时根据告警状态进行自动变频采集,实时数据采集模块基于分布式服务框架完成实时数据的并行采集;实时数据处理模块主要负责采集数据的计算与处理,通过设定的阀值或者振幅来区分采集的信息是处于正常、报警、预警状态,实时数据处理模块基于分布式流式计算技术,对实时数据采集模块采集的信息进行并行处理;存储模块包括数据库服务,主要是对数据进行持久化存储。2.  根据权利要求1所述的网络信息采集与处理的装置,其特征是,所述实时数据采集模块由采集任务监听子模块、配置与分发子模块、采集子模块组成;采集任务子模块主要负现实时获取任务状态信息,并对任务进行调度,配置与分发子模块主要负责采集任务监听子模块和采集子模块初始化注册配置,并根据调度任务将采集指标分发到各采集子模块中,采集子模块由N(N>1)个采集程序组成,主要负责与网络设备进行通讯,根据采集指标完成采集任务,将获取的采集数据信息进行存储。3.  一种网络信息采集与处理的方法,包括以下步骤:(1)配置管理模块向存储模块发送管理请求,管理请求包括实验场景信息管理、网络设备管理、采集项配置管理、实验场景发现策略配置管理等;配置管理模块与存储模块建立数据库连接,执行数据操作,数据操作包括数据增加、数据删除、数据修改和数据查询,配置管理模块通过存储模块的缓存接口访问缓存数据;配置管理模块接收存储模块的数据库服务器或者缓存服务器返回的数据信息或状态信息,同时对采集的数据信息和实验场景记录信息通过可视化浏览器界面进行可视化展示,完成管理操作;配置管理模块基于实时数据缓冲模块的API通讯接口,向实时数据缓冲模块发送任务调度请求,任务调度请求包括任务的停止、暂停或启动;(2)实时数据采集模块基于实时数据缓冲模块的API通讯接口接收任务调度请求,并根据任务调度请求进行操作,如果是暂停或停止,实时数据采集模块将暂停或停止采集任务;如果是启动,实时数据采集模块启动采集任务,根据采集频率将采集项进行分发,通过分布式集群采集技术,由N(N>1)个程序进行同步采集;实时数据采集模块通过实时数据缓冲模块的API通讯接口,将采集的数据进行缓存;(3)实时数据处理模块基于实时数据缓冲模块的API通讯接口从消息队列中实时获取 网络设备采集信息,通过分布式流式计算框架,采用N(N>1)个程序对采集项进行计算与处理,根据实验场景配置策略对网络设备采集的信息进行验证并记录,并通过预先设定的阀值或者振幅来验证网络设备采集的信息;通过阀值验证得到实验场景网络设备报警信息,通过振幅验证得到实验场景网络设备预警信息;实时数据处理模块通过实时数据缓冲模块API通讯接口将实验场景记录存储到消息队列中;实时数据采集模块基于实时数据缓冲模块API通讯接口获取实验场景记录,并根据实验场景记录状态,自动改变采集频率对场景发生的采集项进行采集;实时数据采集模块将采集的数据通过实时数据缓冲模块API通讯接口将实验场景记录存储到消息队列中;实时数据处理模块基于实时数据缓冲模块的API通讯接口从消息队列中实时获取实验场景采集信息;通过分布式流式计算框架,采用N(N>1)个程序对采集项进行计算与处理;根据实验场景配置策略对网络设备采集的信息进行验证并记录,并通过设置的阀值和振幅来验证获取网络设备状态:a)在没有达到阀值或者振幅范围内信息属于正常信息,为了方便历史信息查询,将正常信息保存到数据库,b)通过阀值验证得到实验场景网络设备报警信息,该报警信息会在可视化界面提供消息提醒,并根据该报警信息进行自动变频率采集,c)通过振幅范围验证得到实验场景网络设备预警信息,预警信息只在可视化界面上提供消息提醒;实验场景信息记录通过数据库接口保存到数据库中;(4)配置管理模块向数据存储模块发送数据查询请求,查询请求包括网络设备基本信息、实验场景记录信息、实验场景恢复信息;数据存储模块根据请求完成数据查询操作,并返回数据信息;配置管理模块接收数据信息,并基于可视化浏览器界面,以列表、图形化形式进行可视化展示。4.  根据权利要求3所述的网络信息采集与处理的方法,其特征是,所述步骤(2)具体如下:(i)采集任务监听子模块初始化,将监听端注册信息提交到配置与分发子模块中进行服务注册;(ii)采集子模块初始化,将采集端注册信息提交到配置与分发子模块中进行服务注册;(iii)采集任务监听子模块实时监听网络消息,实时获取任务状态信息,并根据任务进行调度;(iv)配置与分发子模块一方面对注册信息进行管理,一方面通过负载与集群配置规则,将任务采集指标向N(N>1)个采集程序进行分发;(v)采集子模块根据SNMP协议,将下发的采集指标进行数据采集,并对采集的数据信 息进行持久化存储。

说明书

说明书网络信息采集与处理的装置和方法
技术领域
本发明涉及网络数据管理领域,具体涉及一种网络信息采集与处理的装置和方法。
背景技术
随着当前IT环境中服务器、应用数量和类型的不断地增加,各IT实验室需要通过科学和高效的手段尽可能详细、实时和准确地获取整个架构中具体到每个服务器、每个系统甚至每个应用程序工作的细节,并会对所获取到的原始数据进行分析、绘图和统计,为后续的性能调优、建构调整以及各类型排错建立参考依据,因此,数据来源非常多,类型也很多样,存储和数据处理的需求量很大,对数据展现的要求也非常高,注重数据处理的高效性和可用性是当前IT监控领域的典型特征。
传统的数据采集来源单一,存储、管理和分析数据量也相对较小,大多采用关系型数据库和并行数据仓库处理。传统的数据采集和处理主要包括配置管理模块、数据采集与处理模块和数据存储模块,参见图1,配置管理模块主要负责采集项管理及任务调度管理,通过可视化管理界面,对采集项及采集任务进行配置与调度,并把调度指令发送到数据采集与处理模块中;数据采集与处理模块主要负责对采集代理进行管理,根据采集任务向采集代理分发采集指标,同时将采集的数据进行计算与处理;数据存储模块主要负责对采集项、任务调度信息、采集数据信息进行持久化存储。对依靠并行计算提升数据处理速度方面而言,传统的并行数据库技术追求高度一致性和容错性,难以保证其可用性和扩展性。传统的大数据处理方法以处理器为中心,而大数据环境下,需要采取以数据为中心的模式,减少数据移动带来的开销。因此,传统的数据处理方法已经不能适应大数据的需求。
发明内容
本发明针对现有技术的不足,提供一种网络信息采集与处理的装置和方法。
本发明提供的网络信息采集与处理的装置,由配置管理模块、实时数据缓冲模块、实时数据采集模块、实时数据处理模块和存储模块组成。配置管理模块主要对实验任务、设备的基本信息、采集项的配置和场景发现策略配置进行管理;实时数据缓冲模块主要对各模块的通讯消息进行存储与分发,采用消息中间件来处理各模块之间的消息通讯及数据的缓存;实时数据采集模块主要负责根据采集频率对网络空间环境下的主机/服务器、路由器、交换机和防火墙的设备信息进行实时采集,同时根据告警状态自动进行变频采集,该模块基于分布式服务框架完成实时数据的并行采集;实时数据处理模块主要负责对采集得到的数据进行计算和处理,通过设定的阀值或者振幅来区分采集的信息是处于正常、报警还是预警状态,实时数据处理模块基于分布式流式计算技术,对实时数据采集模块采集的 信息进行并行处理;存储模块包括数据库服务,主要是对数据进行持久化存储。
优选的,实时数据采集模块由采集任务监听子模块、配置与分发子模块、采集子模块组成。(1)采集任务子模块主要负责实时获取任务状态信息,并对任务进行调度;(2)配置与分发子模块主要负责对采集任务监听子模块和采集子模块的初始化注册配置,并根据调度任务将采集指标分发到各采集子模块中;(3)采集子模块由N(N>1)个采集程序组成,主要负责与网络设备进行通讯,根据采集指标完成采集任务,将获取的采集数据信息进行存储。
本发明提供的网络信息采集与处理的方法,包括以下步骤:
(1)配置管理模块向存储模块发送管理请求,管理请求包括信息管理、网络设备管理、采集项配置管理、发现策略配置管理等;配置管理模块与存储模块建立数据库连接,执行数据操作,数据操作包括数据增加、数据删除、数据修改和数据查询,配置管理模块通过存储模块的缓存接口访问缓存数据;配置管理模块接收存储模块的数据库服务器或者缓存服务器返回的数据信息或状态信息,同时对采集的数据信息和记录信息通过可视化浏览器界面进行可视化展示,完成管理操作。配置管理模块基于实时数据缓冲模块的API通讯接口,向实时数据缓冲模块发送任务调度请求,任务调度请求包括任务的停止、暂停或启动;
(2)实时数据采集模块基于实时数据缓冲模块的API通讯接口接收任务调度请求,并根据任务调度请求进行操作,如果是暂停或停止,实时数据采集模块将暂停或停止采集任务;如果是启动,实时数据采集模块启动采集任务,根据采集频率将采集项进行分发,通过分布式集群采集技术,由N(N>1)个程序进行同步采集;实时数据采集模块通过实时数据缓冲模块的API通讯接口,将采集的数据进行缓存;
(3)实时数据处理模块基于实时数据缓冲模块的API通讯接口从消息队列中实时获取网络设备采集信息,通过分布式流式计算框架,采用N(N>1)个程序对采集项进行计算与处理,根据配置策略对网络设备采集的信息进行验证并记录,并通过预先设定的阀值或者振幅来验证网络设备采集的信息;通过阀值验证得到网络设备报警信息,通过振幅验证得到网络设备预警信息;实时数据处理模块通过实时数据缓冲模块API通讯接口将记录存储到消息队列中;实时数据采集模块基于实时数据缓冲模块API通讯接口获取记录,并根据记录状态,自动改变采集频率对场景发生的采集项进行采集;实时数据采集模块将采集的数据通过实时数据缓冲模块API通讯接口将记录存储到消息队列中;实时数据处理模块基于实时数据缓冲模块的API通讯接口从消息队列中实时获取采集信息;通过分布式流式计算框架,采用N(N>1)个程序对采集项进行计算与处理;根据配置策略对网络设备采集的信息进行验证 并记录,并通过设置的阀值和振幅来验证获取网络设备状态:a)在没有达到阀值或者振幅范围内信息属于正常信息,为了方便历史信息查询,将正常信息保存到数据库,b)通过阀值验证得到网络设备报警信息,报警信息一方面会在可视化界面提供消息提醒,一方面根据报警状态进行自动变频率采集,c)通过振幅范围验证得到网络设备预警信息;基于可视化浏览器界面时,将预警信息进行展示。
网络设备状态信息记录通过数据库接口保存到数据库中;
(4)配置管理模块向数据存储模块发送数据查询请求,查询请求包括网络设备基本信息、记录信息、恢复信息等;数据存储模块根据请求完成数据查询操作返回数据信息;并基于可视化浏览器界面,以列表、图形化形式进行可视化展示,完成数据操作。
优选的,步骤(2)具体如下:
(i)采集任务监听子模块初始化,将监听端注册信息提交到配置与分发子模块中进行服务注册;
(ii)采集子模块初始化,将采集端注册信息提交到配置与分发子模块中进行服务注册;
(iii)采集任务监听子模块实时监听网络消息,实时获取任务状态信息,并根据任务进行调度;
(iv)配置与分发子模块一方面对注册信息进行管理,一方面通过负载与集群配置规则,将任务采集指标向N(N>1)个采集程序进行分发;
(v)采集子模块根据SNMP协议,将下发的采集指标进行数据采集,并对采集的数据信息进行持久化存储。
本发明提供的网络信息采集与处理的装置,是由配置管理模块、实时数据采集模块、实时数据处理模块、数据缓冲模块、数据存储模块组成,具有松散耦合性,扩展性强,易维护。本发明提供的网络信息采集与处理的方法,基于大数据框架的设计,实时数据采集模块采用分布式集群采集方案,通过配置策略将采集任务分发给N(N>1)个程序去执行,可以确保采集内容不重复、采集数据完整,采集性能达到秒级。实时数据处理模块采用分布式流式计算框架,通过N(N>1)个程序来完成对大量采集数据的计算与处理,可以确保数据处理速度更快。
附图说明
图1是传统网络信息采集与处理流程图。
图2是本发明实施例1提供的网络信息采集与处理的装置示意图。
图3是本发明实施例2和实施例4提供的实时数据采集模块的示意图。
图4是本发明实施例3和实施例4提供的正常频率的数据采集与处理流程图。
图5是本发明实施例3和实施例4提供的自动变频的数据采集与处理流程图。
具体实施方式
为了便于理解本发明,以下结合说明书附图对本发明作进一步说明。
实施例1一种网络信息采集与处理的装置,参见图2,本发明提供的网络信息采集与处理的装置,由配置管理模块、实时数据缓冲模块、实时数据采集模块、实时数据处理模块和存储模块组成。配置管理模块主要对实验任务、设备的基本信息、采集项的配置和场景发现策略配置进行管理;实时数据缓冲模块主要对各模块的通讯消息进行存储与分发,采用消息中间件来处理各模块之间的消息通讯及数据的缓存;实时数据采集模块主要负责根据采集频率对网络空间环境下的主机/服务器、路由器、交换机和防火墙的设备信息进行实时采集,同时根据告警状态进行自动变频采集,实时数据采集模块基于分布式服务框架完成实时数据的并行采集;实时数据处理模块主要负责采集数据的计算与处理,通过设定的阀值或者振幅来区分采集的信息是处于正常、报警、预警状态,实时数据处理模块基于分布式流式计算技术,对实时数据采集模块采集的信息进行并行处理;存储模块包括数据库服务,主要是对数据进行持久化存储。
本实施例的装置是对正常模式下的数据采集与处理的说明,通过大数据框架技术,将优化数据采集与处理的模式,使网络信息采集与处理的性能更快、网络信息采集与处理的数据信息更多,而且系统还可以在异常模式下根据报警信息进行自动变频操作。
实施例2一种网络信息自动变频采集与处理的装置,参见图2和图3,由配置管理模块、实时数据缓冲模块、实时数据采集模块、实时数据处理模块和存储模块组成。配置管理模块主要对实验任务、设备的基本信息、采集项的配置和场景发现策略配置进行管理;实时数据缓冲模块主要对各模块的通讯消息进行存储与分发,采用消息中间件来处理各模块之间的消息通讯及数据的缓存;实时数据采集模块主要负责根据采集频率对网络空间环境下的主机/服务器、路由器、交换机和防火墙的设备信息进行实时采集,同时根据告警状态进行自动变频采集;实时数据采集模块由采集任务监听子模块、配置与分发子模块、采集子模块组成。(1)采集任务子模块主要负现实时获取任务状态信息,并对任务进行调度;(2)配置与分发子模块主要负责采集任务监听子模块和采集子模块初始化注册配置,并根据调度任务将采集指标分发到各采集子模块中;(3)采集子模块由N(N>1)个采集程序组成,主要负责与网络设备进行通讯,根据采集指标完成采集任务,将获取的采集数据信息进行存储,通过此实时数据采集模块可实现采集任务同步、采集数据不重复;实时数据处理模块主要负责采集数据的计算与处理,通过设定的阀值或者振幅来区分采集的信息是处于正 常、报警、预警状态,实时数据处理模块基于分布式流式计算技术,对实时数据采集模块采集的信息进行并行处理;存储模块包括数据库服务,主要是对数据进行持久化存储。
本实施例的装置主要对于实时数据采集模块的说明,实时数据采集模块基于SNMP协议(即简单网络管理协议)访问网络设备获取网络状态信息,通过分布式服务架构,确保实时数据的采集数据完整、不重复。
实施例3一种网络信息采集与处理的方法,参见图4和图5,配置管理模块向存储模块发送管理请求,管理请求包括信息管理、网络设备管理、采集项配置管理、发现策略配置管理等;配置管理模块与存储模块建立数据库连接,执行数据操作,数据操作包括数据增加、数据删除、数据修改和数据查询,配置管理模块通过存储模块的缓存接口访问缓存数据;配置管理模块接收存储模块的数据库服务器或者缓存服务器返回的数据信息或状态信息,同时对采集的数据信息和记录信息通过可视化浏览器界面进行可视化展示,完成管理操作。配置管理模块基于实时数据缓冲模块的API通讯接口,向实时数据缓冲模块发送任务调度请求,任务调度请求包括任务的停止、暂停或启动;
实时数据采集模块基于实时数据缓冲模块的API通讯接口接收任务调度请求,并根据任务调度请求进行操作,如果是暂停或停止,实时数据采集模块将暂停或停止采集任务线程;如果是启动,实时数据采集模块启动采集任务,根据采集频率将采集项进行分发,通过分布式集群采集技术,由N(N>1)个程序进行同步采集;实时数据采集模块通过实时数据缓冲模块的API通讯接口,将采集的数据进行缓存。
实时数据处理模块基于实时数据缓冲模块的API通讯接口从消息队列中实时获取网络设备采集信息,通过分布式流式计算框架,采用N(N>1)个程序对采集项进行计算与处理,根据配置策略对网络设备采集的信息进行验证并记录,并通过预先设定的阀值或者振幅来验证网络设备采集的信息;通过阀值验证得到网络设备报警信息,通过振幅验证得到网络设备预警信息;实时数据处理模块通过实时数据缓冲模块API通讯接口将记录存储到消息队列中;实时数据采集模块基于实时数据缓冲模块API通讯接口获取记录,并根据记录状态,自动改变采集频率对场景发生的采集项进行采集;实时数据采集模块将采集的数据通过实时数据缓冲模块API通讯接口将记录存储到消息队列中;实时数据处理模块基于实时数据缓冲模块的API通讯接口从消息队列中实时获取采集信息;通过分布式流式计算框架,采用N(N>1)个程序对采集项进行计算与处理;根据配置策略对网络设备采集的信息进行验证并记录,并通过设置的阀值和振幅来验证获取网络设备状态:
(1)在没有达到阀值或者振幅范围内信息属于正常信息,为了方便历史信息查询,将正常信息保存到数据库;
(2)通过阀值验证得到网络设备报警信息,报警信息一方面会在可视化界面提供消息提醒,一方面根据报警状态进行自动变频率采集;
(3)通过振幅范围验证得到网络设备预警信息;基于可视化浏览器界面将预警信息进行展示;
采集信息记录通过数据库接口保存到数据库中。
配置管理模块向数据存储模块发送数据查询请求,查询请求包括网络设备基本信息、记录信息、恢复信息等;数据存储模块根据请求完成数据查询操作,并返回数据信息;配置管理模块接收数据信息,完成数据处理,或配置管理模块接收数据信息,并基于可视化浏览器界面,以列表、图形化形式进行可视化展示,完成数据处理。
本实施例主要是对正常采集与自动变频采集方面的方法说明。
实施例4一种网络信息采集与处理的方法,参见图3-图5,配置管理模块向存储模块发送管理请求,管理请求包括信息管理、网络设备管理、采集项配置管理、发现策略配置管理等;配置管理模块与存储模块建立数据库连接,执行数据操作,数据操作包括数据增加、数据删除、数据修改和数据查询,配置管理模块通过存储模块的缓存接口访问缓存数据;配置管理模块接收存储模块的数据库服务器或者缓存服务器返回的数据信息或状态信息,同时对采集的数据信息和记录信息通过可视化浏览器界面进行可视化展示,完成管理操作。配置管理模块基于实时数据缓冲模块的API通讯接口,向实时数据缓冲模块发送任务调度请求,任务调度请求包括任务的停止、暂停、启动;
实时数据采集模块基于实时数据缓冲模块的API通讯接口接收任务调度请求完成实时数据采集工作。具体实施如下:(i)采集任务监听子模块初始化,将监听端注册信息提交到配置与分发子模块中进行服务注册;(ii)采集子模块初始化,将采集端注册信息提交到配置与分发子模块中进行服务注册;(iii)采集任务监听子模块实时监听调度任务消息,并实时获取任务状态信息。任务调度状态包括任务的启动、停止、暂停,状态为停止或者暂停时,采集任务监听子模块及时对任务线程进行停止、暂停操作,状态为启动时,采集任务监听子模块启动采集任务线程,向配置与分发子模块发送数据;(iv)配置与分发子模块一方面对注册信息进行管理,一方面通过负载与集群配置规则,将任务采集指标向N(N>1)个采集程序进行分发;(v)采集子模块根据SNMP协议,将下发的采集指标进行数据采集,并对采集的数据信息进行持久化存储。
实时数据处理模块基于实时数据缓冲模块的API通讯接口从消息队列中实时获取网络设备采集信息,通过分布式流式计算框架,采用N(N>1)个程序对采集项进行计算与处理,根据配置策略对网络设备采集的信息进行验证并记录,并通过预先设定的阀值或者振幅来验 证网络设备采集的信息;通过阀值验证得到网络设备报警信息,通过振幅验证得到网络设备预警信息;实时数据处理模块通过实时数据缓冲模块API通讯接口将记录存储到消息队列中;实时数据采集模块基于实时数据缓冲模块API通讯接口获取记录,并根据记录状态,自动改变采集频率对场景发生的采集项进行采集;实时数据采集模块将采集的数据通过实时数据缓冲模块API通讯接口将记录存储到消息队列中;实时数据处理模块基于实时数据缓冲模块的API通讯接口从消息队列中实时获取采集信息;通过分布式流式计算框架,采用N(N>1)个程序对采集项进行计算与处理;根据配置策略对网络设备采集的信息进行验证并记录,并通过设置的阀值和振幅来验证获取网络设备状态:
(1)在没有达到阀值或者振幅范围内信息属于正常信息,为了方便历史信息查询,将正常信息保存到数据库;
(2)通过阀值验证得到网络设备报警信息,报警信息一方面会在可视化界面提供消息提醒,一方面根据报警状态进行自动变频率采集;
(3)通过振幅范围验证得到网络设备预警信息;并基于可视化浏览器界面将预警信息进行展示;
信息记录通过数据库接口保存到数据库中。
配置管理模块向数据存储模块发送数据查询请求,查询请求包括网络设备基本信息、记录信息、恢复信息等;数据存储模块根据请求完成数据查询操作,并返回数据信息;配置管理模块接收数据信息,完成数据处理,或配置管理模块接收数据信息,并基于可视化浏览器界面,以列表、图形化形式进行可视化展示,完成数据处理。
本实施例是对实施例3的优化,对实时数据采集模块的子模块工作原理进行了阐述。

网络信息采集与处理的装置和方法.pdf_第1页
第1页 / 共12页
网络信息采集与处理的装置和方法.pdf_第2页
第2页 / 共12页
网络信息采集与处理的装置和方法.pdf_第3页
第3页 / 共12页
点击查看更多>>
资源描述

《网络信息采集与处理的装置和方法.pdf》由会员分享,可在线阅读,更多相关《网络信息采集与处理的装置和方法.pdf(12页珍藏版)》请在专利查询网上搜索。

1、(10)申请公布号 (43)申请公布日 (21)申请号 201510007178.3(22)申请日 2015.01.07H04L 12/24(2006.01)H04L 12/26(2006.01)(71)申请人 国家计算机网络与信息安全管理中心地址 100029 北京市朝阳区裕民路甲 3 号申请人 北京哈工大计算机网络与信息安全技术研究中心(72)发明人 高昕 彭文韬 邹潇湘 段文良唐积强 董琳 金暐(74)专利代理机构 合肥市长远专利代理事务所( 普通合伙 ) 34119代理人 程笃庆 黄乐瑜(54) 发明名称网络信息采集与处理的装置和方法(57) 摘要本发明涉及网络数据管理领域,具体涉及一。

2、种网络信息采集与处理的装置和方法。针对现有网络信息采集与处理的整体处理速度和系统的整体稳定性不佳的问题,本发明提供的网络信息采集与处理的装置,由配置管理模块、实时数据采集模块、实时数据处理模块、数据缓冲模块、数据存储模块组成,具有松散耦合性,扩展性强,易维护。本发明提供的网络信息采集与处理的方法,实时数据采集模块采用分布式集群采集方案,通过配置策略将采集任务分发给 N(N1) 个程序去执行,实时数据处理模块采用分布式流式计算框架,通过 N(N1) 个程序来完成对大量采集数据的计算与处理,可以确保数据处理速度更快。(51)Int.Cl.(19)中华人民共和国国家知识产权局(12)发明专利申请权利。

3、要求书2页 说明书6页 附图3页(10)申请公布号 CN 104506373 A(43)申请公布日 2015.04.08CN 104506373 A1/2 页21.一种网络信息采集与处理的装置,由配置管理模块、实时数据缓冲模块、实时数据采集模块、实时数据处理模块和存储模块组成 :配置管理模块主要对实验任务、设备的基本信息、采集项的配置和场景发现策略配置进行管理 ;实时数据缓冲模块主要对各模块的通讯消息进行存储与分发,采用消息中间件来处理各模块之间的消息通讯及数据的缓存 ;实时数据采集模块主要负责根据采集频率对网络空间环境下的主机 / 服务器、路由器、交换机和防火墙的设备信息进行实时采集,同时根。

4、据告警状态进行自动变频采集,实时数据采集模块基于分布式服务框架完成实时数据的并行采集 ;实时数据处理模块主要负责采集数据的计算与处理,通过设定的阀值或者振幅来区分采集的信息是处于正常、报警、预警状态,实时数据处理模块基于分布式流式计算技术,对实时数据采集模块采集的信息进行并行处理 ;存储模块包括数据库服务,主要是对数据进行持久化存储。2.根据权利要求 1 所述的网络信息采集与处理的装置,其特征是,所述实时数据采集模块由采集任务监听子模块、配置与分发子模块、采集子模块组成 ;采集任务子模块主要负现实时获取任务状态信息,并对任务进行调度,配置与分发子模块主要负责采集任务监听子模块和采集子模块初始化。

5、注册配置,并根据调度任务将采集指标分发到各采集子模块中,采集子模块由 N(N1) 个采集程序组成,主要负责与网络设备进行通讯,根据采集指标完成采集任务,将获取的采集数据信息进行存储。3.一种网络信息采集与处理的方法,包括以下步骤 :(1) 配置管理模块向存储模块发送管理请求,管理请求包括实验场景信息管理、网络设备管理、采集项配置管理、实验场景发现策略配置管理等 ;配置管理模块与存储模块建立数据库连接,执行数据操作,数据操作包括数据增加、数据删除、数据修改和数据查询,配置管理模块通过存储模块的缓存接口访问缓存数据 ;配置管理模块接收存储模块的数据库服务器或者缓存服务器返回的数据信息或状态信息,同。

6、时对采集的数据信息和实验场景记录信息通过可视化浏览器界面进行可视化展示,完成管理操作 ;配置管理模块基于实时数据缓冲模块的 API 通讯接口,向实时数据缓冲模块发送任务调度请求,任务调度请求包括任务的停止、暂停或启动 ;(2) 实时数据采集模块基于实时数据缓冲模块的 API 通讯接口接收任务调度请求,并根据任务调度请求进行操作,如果是暂停或停止,实时数据采集模块将暂停或停止采集任务 ;如果是启动,实时数据采集模块启动采集任务,根据采集频率将采集项进行分发,通过分布式集群采集技术,由 N(N1) 个程序进行同步采集 ;实时数据采集模块通过实时数据缓冲模块的 API 通讯接口,将采集的数据进行缓存。

7、 ;(3) 实时数据处理模块基于实时数据缓冲模块的 API 通讯接口从消息队列中实时获取网络设备采集信息,通过分布式流式计算框架,采用 N(N1) 个程序对采集项进行计算与处理,根据实验场景配置策略对网络设备采集的信息进行验证并记录,并通过预先设定的阀值或者振幅来验证网络设备采集的信息 ;通过阀值验证得到实验场景网络设备报警信息,通过振幅验证得到实验场景网络设备预警信息 ;实时数据处理模块通过实时数据缓冲模块 API 通讯接口将实验场景记录存储到消息队列中 ;实时数据采集模块基于实时数据缓冲模块 API 通讯接口获取实验场景记录,并根据实验场景记录状态,自动改变采集频率对场景发生的采集项进行采。

8、集 ;实时数据采集模块将采集的数据通过实时数据缓冲模块 API通讯接口将实验场景记录存储到消息队列中 ;实时数据处理模块基于实时数据缓冲模块权 利 要 求 书CN 104506373 A2/2 页3的 API 通讯接口从消息队列中实时获取实验场景采集信息 ;通过分布式流式计算框架,采用 N(N1) 个程序对采集项进行计算与处理 ;根据实验场景配置策略对网络设备采集的信息进行验证并记录,并通过设置的阀值和振幅来验证获取网络设备状态 :a) 在没有达到阀值或者振幅范围内信息属于正常信息,为了方便历史信息查询,将正常信息保存到数据库,b) 通过阀值验证得到实验场景网络设备报警信息,该报警信息会在可视。

9、化界面提供消息提醒,并根据该报警信息进行自动变频率采集,c) 通过振幅范围验证得到实验场景网络设备预警信息,预警信息只在可视化界面上提供消息提醒 ;实验场景信息记录通过数据库接口保存到数据库中 ;(4) 配置管理模块向数据存储模块发送数据查询请求,查询请求包括网络设备基本信息、实验场景记录信息、实验场景恢复信息 ;数据存储模块根据请求完成数据查询操作,并返回数据信息 ;配置管理模块接收数据信息,并基于可视化浏览器界面,以列表、图形化形式进行可视化展示。4.根据权利要求3所述的网络信息采集与处理的方法,其特征是,所述步骤(2)具体如下:(i) 采集任务监听子模块初始化,将监听端注册信息提交到配置。

10、与分发子模块中进行服务注册 ;(ii) 采集子模块初始化,将采集端注册信息提交到配置与分发子模块中进行服务注册;(iii) 采集任务监听子模块实时监听网络消息,实时获取任务状态信息,并根据任务进行调度 ;(iv) 配置与分发子模块一方面对注册信息进行管理,一方面通过负载与集群配置规则,将任务采集指标向 N(N1) 个采集程序进行分发 ;(v) 采集子模块根据 SNMP 协议,将下发的采集指标进行数据采集,并对采集的数据信息进行持久化存储。权 利 要 求 书CN 104506373 A1/6 页4网络信息采集与处理的装置和方法技术领域0001 本发明涉及网络数据管理领域,具体涉及一种网络信息采集。

11、与处理的装置和方法。背景技术0002 随着当前IT环境中服务器、应用数量和类型的不断地增加,各IT实验室需要通过科学和高效的手段尽可能详细、实时和准确地获取整个架构中具体到每个服务器、每个系统甚至每个应用程序工作的细节,并会对所获取到的原始数据进行分析、绘图和统计,为后续的性能调优、建构调整以及各类型排错建立参考依据,因此,数据来源非常多,类型也很多样,存储和数据处理的需求量很大,对数据展现的要求也非常高,注重数据处理的高效性和可用性是当前 IT 监控领域的典型特征。0003 传统的数据采集来源单一,存储、管理和分析数据量也相对较小,大多采用关系型数据库和并行数据仓库处理。传统的数据采集和处理。

12、主要包括配置管理模块、数据采集与处理模块和数据存储模块,参见图 1,配置管理模块主要负责采集项管理及任务调度管理,通过可视化管理界面,对采集项及采集任务进行配置与调度,并把调度指令发送到数据采集与处理模块中 ;数据采集与处理模块主要负责对采集代理进行管理,根据采集任务向采集代理分发采集指标,同时将采集的数据进行计算与处理 ;数据存储模块主要负责对采集项、任务调度信息、采集数据信息进行持久化存储。对依靠并行计算提升数据处理速度方面而言,传统的并行数据库技术追求高度一致性和容错性,难以保证其可用性和扩展性。传统的大数据处理方法以处理器为中心,而大数据环境下,需要采取以数据为中心的模式,减少数据移动。

13、带来的开销。因此,传统的数据处理方法已经不能适应大数据的需求。发明内容0004 本发明针对现有技术的不足,提供一种网络信息采集与处理的装置和方法。0005 本发明提供的网络信息采集与处理的装置,由配置管理模块、实时数据缓冲模块、实时数据采集模块、实时数据处理模块和存储模块组成。配置管理模块主要对实验任务、设备的基本信息、采集项的配置和场景发现策略配置进行管理 ;实时数据缓冲模块主要对各模块的通讯消息进行存储与分发,采用消息中间件来处理各模块之间的消息通讯及数据的缓存 ;实时数据采集模块主要负责根据采集频率对网络空间环境下的主机 / 服务器、路由器、交换机和防火墙的设备信息进行实时采集,同时根据。

14、告警状态自动进行变频采集,该模块基于分布式服务框架完成实时数据的并行采集 ;实时数据处理模块主要负责对采集得到的数据进行计算和处理,通过设定的阀值或者振幅来区分采集的信息是处于正常、报警还是预警状态,实时数据处理模块基于分布式流式计算技术,对实时数据采集模块采集的信息进行并行处理 ;存储模块包括数据库服务,主要是对数据进行持久化存储。0006 优选的,实时数据采集模块由采集任务监听子模块、配置与分发子模块、采集子模块组成。(1) 采集任务子模块主要负责实时获取任务状态信息,并对任务进行调度 ;(2) 配说 明 书CN 104506373 A2/6 页5置与分发子模块主要负责对采集任务监听子模块。

15、和采集子模块的初始化注册配置,并根据调度任务将采集指标分发到各采集子模块中 ;(3) 采集子模块由 N(N1) 个采集程序组成,主要负责与网络设备进行通讯,根据采集指标完成采集任务,将获取的采集数据信息进行存储。0007 本发明提供的网络信息采集与处理的方法,包括以下步骤 :0008 (1) 配置管理模块向存储模块发送管理请求,管理请求包括信息管理、网络设备管理、采集项配置管理、发现策略配置管理等 ;配置管理模块与存储模块建立数据库连接,执行数据操作,数据操作包括数据增加、数据删除、数据修改和数据查询,配置管理模块通过存储模块的缓存接口访问缓存数据 ;配置管理模块接收存储模块的数据库服务器或者。

16、缓存服务器返回的数据信息或状态信息,同时对采集的数据信息和记录信息通过可视化浏览器界面进行可视化展示,完成管理操作。配置管理模块基于实时数据缓冲模块的 API 通讯接口,向实时数据缓冲模块发送任务调度请求,任务调度请求包括任务的停止、暂停或启动 ;0009 (2) 实时数据采集模块基于实时数据缓冲模块的 API 通讯接口接收任务调度请求,并根据任务调度请求进行操作,如果是暂停或停止,实时数据采集模块将暂停或停止采集任务 ;如果是启动,实时数据采集模块启动采集任务,根据采集频率将采集项进行分发,通过分布式集群采集技术,由 N(N1) 个程序进行同步采集 ;实时数据采集模块通过实时数据缓冲模块的 。

17、API 通讯接口,将采集的数据进行缓存 ;0010 (3) 实时数据处理模块基于实时数据缓冲模块的 API 通讯接口从消息队列中实时获取网络设备采集信息,通过分布式流式计算框架,采用 N(N1) 个程序对采集项进行计算与处理,根据配置策略对网络设备采集的信息进行验证并记录,并通过预先设定的阀值或者振幅来验证网络设备采集的信息 ;通过阀值验证得到网络设备报警信息,通过振幅验证得到网络设备预警信息 ;实时数据处理模块通过实时数据缓冲模块 API 通讯接口将记录存储到消息队列中 ;实时数据采集模块基于实时数据缓冲模块 API 通讯接口获取记录,并根据记录状态,自动改变采集频率对场景发生的采集项进行采。

18、集 ;实时数据采集模块将采集的数据通过实时数据缓冲模块 API 通讯接口将记录存储到消息队列中 ;实时数据处理模块基于实时数据缓冲模块的 API 通讯接口从消息队列中实时获取采集信息 ;通过分布式流式计算框架,采用 N(N1) 个程序对采集项进行计算与处理 ;根据配置策略对网络设备采集的信息进行验证并记录,并通过设置的阀值和振幅来验证获取网络设备状态 :a) 在没有达到阀值或者振幅范围内信息属于正常信息,为了方便历史信息查询,将正常信息保存到数据库,b) 通过阀值验证得到网络设备报警信息,报警信息一方面会在可视化界面提供消息提醒,一方面根据报警状态进行自动变频率采集,c) 通过振幅范围验证得到。

19、网络设备预警信息 ;基于可视化浏览器界面时,将预警信息进行展示。0011 网络设备状态信息记录通过数据库接口保存到数据库中 ;0012 (4) 配置管理模块向数据存储模块发送数据查询请求,查询请求包括网络设备基本信息、记录信息、恢复信息等 ;数据存储模块根据请求完成数据查询操作返回数据信息 ;并基于可视化浏览器界面,以列表、图形化形式进行可视化展示,完成数据操作。0013 优选的,步骤 (2) 具体如下 :0014 (i) 采集任务监听子模块初始化,将监听端注册信息提交到配置与分发子模块中进行服务注册 ;说 明 书CN 104506373 A3/6 页60015 (ii) 采集子模块初始化,将。

20、采集端注册信息提交到配置与分发子模块中进行服务注册 ;0016 (iii) 采集任务监听子模块实时监听网络消息,实时获取任务状态信息,并根据任务进行调度 ;0017 (iv) 配置与分发子模块一方面对注册信息进行管理,一方面通过负载与集群配置规则,将任务采集指标向 N(N1) 个采集程序进行分发 ;0018 (v) 采集子模块根据 SNMP 协议,将下发的采集指标进行数据采集,并对采集的数据信息进行持久化存储。0019 本发明提供的网络信息采集与处理的装置,是由配置管理模块、实时数据采集模块、实时数据处理模块、数据缓冲模块、数据存储模块组成,具有松散耦合性,扩展性强,易维护。本发明提供的网络信。

21、息采集与处理的方法,基于大数据框架的设计,实时数据采集模块采用分布式集群采集方案,通过配置策略将采集任务分发给 N(N1) 个程序去执行,可以确保采集内容不重复、采集数据完整,采集性能达到秒级。实时数据处理模块采用分布式流式计算框架,通过 N(N1) 个程序来完成对大量采集数据的计算与处理,可以确保数据处理速度更快。附图说明0020 图 1 是传统网络信息采集与处理流程图。0021 图 2 是本发明实施例 1 提供的网络信息采集与处理的装置示意图。0022 图 3 是本发明实施例 2 和实施例 4 提供的实时数据采集模块的示意图。0023 图 4 是本发明实施例 3 和实施例 4 提供的正常频。

22、率的数据采集与处理流程图。0024 图 5 是本发明实施例 3 和实施例 4 提供的自动变频的数据采集与处理流程图。具体实施方式0025 为了便于理解本发明,以下结合说明书附图对本发明作进一步说明。0026 实施例 1 一种网络信息采集与处理的装置,参见图 2,本发明提供的网络信息采集与处理的装置,由配置管理模块、实时数据缓冲模块、实时数据采集模块、实时数据处理模块和存储模块组成。配置管理模块主要对实验任务、设备的基本信息、采集项的配置和场景发现策略配置进行管理 ;实时数据缓冲模块主要对各模块的通讯消息进行存储与分发,采用消息中间件来处理各模块之间的消息通讯及数据的缓存 ;实时数据采集模块主要。

23、负责根据采集频率对网络空间环境下的主机 / 服务器、路由器、交换机和防火墙的设备信息进行实时采集,同时根据告警状态进行自动变频采集,实时数据采集模块基于分布式服务框架完成实时数据的并行采集 ;实时数据处理模块主要负责采集数据的计算与处理,通过设定的阀值或者振幅来区分采集的信息是处于正常、报警、预警状态,实时数据处理模块基于分布式流式计算技术,对实时数据采集模块采集的信息进行并行处理 ;存储模块包括数据库服务,主要是对数据进行持久化存储。0027 本实施例的装置是对正常模式下的数据采集与处理的说明,通过大数据框架技术,将优化数据采集与处理的模式,使网络信息采集与处理的性能更快、网络信息采集与处理。

24、的数据信息更多,而且系统还可以在异常模式下根据报警信息进行自动变频操作。说 明 书CN 104506373 A4/6 页70028 实施例 2 一种网络信息自动变频采集与处理的装置,参见图 2 和图 3,由配置管理模块、实时数据缓冲模块、实时数据采集模块、实时数据处理模块和存储模块组成。配置管理模块主要对实验任务、设备的基本信息、采集项的配置和场景发现策略配置进行管理 ;实时数据缓冲模块主要对各模块的通讯消息进行存储与分发,采用消息中间件来处理各模块之间的消息通讯及数据的缓存 ;实时数据采集模块主要负责根据采集频率对网络空间环境下的主机 / 服务器、路由器、交换机和防火墙的设备信息进行实时采集。

25、,同时根据告警状态进行自动变频采集 ;实时数据采集模块由采集任务监听子模块、配置与分发子模块、采集子模块组成。(1) 采集任务子模块主要负现实时获取任务状态信息,并对任务进行调度 ;(2)配置与分发子模块主要负责采集任务监听子模块和采集子模块初始化注册配置,并根据调度任务将采集指标分发到各采集子模块中 ;(3) 采集子模块由 N(N1) 个采集程序组成,主要负责与网络设备进行通讯,根据采集指标完成采集任务,将获取的采集数据信息进行存储,通过此实时数据采集模块可实现采集任务同步、采集数据不重复 ;实时数据处理模块主要负责采集数据的计算与处理,通过设定的阀值或者振幅来区分采集的信息是处于正常、报警。

26、、预警状态,实时数据处理模块基于分布式流式计算技术,对实时数据采集模块采集的信息进行并行处理 ;存储模块包括数据库服务,主要是对数据进行持久化存储。0029 本实施例的装置主要对于实时数据采集模块的说明,实时数据采集模块基于 SNMP协议(即简单网络管理协议)访问网络设备获取网络状态信息,通过分布式服务架构,确保实时数据的采集数据完整、不重复。0030 实施例 3 一种网络信息采集与处理的方法,参见图 4 和图 5,配置管理模块向存储模块发送管理请求,管理请求包括信息管理、网络设备管理、采集项配置管理、发现策略配置管理等 ;配置管理模块与存储模块建立数据库连接,执行数据操作,数据操作包括数据增。

27、加、数据删除、数据修改和数据查询,配置管理模块通过存储模块的缓存接口访问缓存数据 ;配置管理模块接收存储模块的数据库服务器或者缓存服务器返回的数据信息或状态信息,同时对采集的数据信息和记录信息通过可视化浏览器界面进行可视化展示,完成管理操作。配置管理模块基于实时数据缓冲模块的 API 通讯接口,向实时数据缓冲模块发送任务调度请求,任务调度请求包括任务的停止、暂停或启动 ;0031 实时数据采集模块基于实时数据缓冲模块的 API 通讯接口接收任务调度请求,并根据任务调度请求进行操作,如果是暂停或停止,实时数据采集模块将暂停或停止采集任务线程 ;如果是启动,实时数据采集模块启动采集任务,根据采集频。

28、率将采集项进行分发,通过分布式集群采集技术,由 N(N1) 个程序进行同步采集 ;实时数据采集模块通过实时数据缓冲模块的 API 通讯接口,将采集的数据进行缓存。0032 实时数据处理模块基于实时数据缓冲模块的 API 通讯接口从消息队列中实时获取网络设备采集信息,通过分布式流式计算框架,采用 N(N1) 个程序对采集项进行计算与处理,根据配置策略对网络设备采集的信息进行验证并记录,并通过预先设定的阀值或者振幅来验证网络设备采集的信息 ;通过阀值验证得到网络设备报警信息,通过振幅验证得到网络设备预警信息 ;实时数据处理模块通过实时数据缓冲模块 API 通讯接口将记录存储到消息队列中 ;实时数据。

29、采集模块基于实时数据缓冲模块 API 通讯接口获取记录,并根据记录状态,自动改变采集频率对场景发生的采集项进行采集 ;实时数据采集模块将采集的数据通过实时数据缓冲模块 API 通讯接口将记录存储到消息队列中 ;实时数据处理模块基说 明 书CN 104506373 A5/6 页8于实时数据缓冲模块的 API 通讯接口从消息队列中实时获取采集信息 ;通过分布式流式计算框架,采用 N(N1) 个程序对采集项进行计算与处理 ;根据配置策略对网络设备采集的信息进行验证并记录,并通过设置的阀值和振幅来验证获取网络设备状态 :0033 (1) 在没有达到阀值或者振幅范围内信息属于正常信息,为了方便历史信息查。

30、询,将正常信息保存到数据库 ;0034 (2) 通过阀值验证得到网络设备报警信息,报警信息一方面会在可视化界面提供消息提醒,一方面根据报警状态进行自动变频率采集 ;0035 (3) 通过振幅范围验证得到网络设备预警信息 ;基于可视化浏览器界面将预警信息进行展示 ;0036 采集信息记录通过数据库接口保存到数据库中。0037 配置管理模块向数据存储模块发送数据查询请求,查询请求包括网络设备基本信息、记录信息、恢复信息等 ;数据存储模块根据请求完成数据查询操作,并返回数据信息 ;配置管理模块接收数据信息,完成数据处理,或配置管理模块接收数据信息,并基于可视化浏览器界面,以列表、图形化形式进行可视化。

31、展示,完成数据处理。0038 本实施例主要是对正常采集与自动变频采集方面的方法说明。0039 实施例 4 一种网络信息采集与处理的方法,参见图 3- 图 5,配置管理模块向存储模块发送管理请求,管理请求包括信息管理、网络设备管理、采集项配置管理、发现策略配置管理等 ;配置管理模块与存储模块建立数据库连接,执行数据操作,数据操作包括数据增加、数据删除、数据修改和数据查询,配置管理模块通过存储模块的缓存接口访问缓存数据 ;配置管理模块接收存储模块的数据库服务器或者缓存服务器返回的数据信息或状态信息,同时对采集的数据信息和记录信息通过可视化浏览器界面进行可视化展示,完成管理操作。配置管理模块基于实时。

32、数据缓冲模块的 API 通讯接口,向实时数据缓冲模块发送任务调度请求,任务调度请求包括任务的停止、暂停、启动 ;0040 实时数据采集模块基于实时数据缓冲模块的 API 通讯接口接收任务调度请求完成实时数据采集工作。具体实施如下 :(i) 采集任务监听子模块初始化,将监听端注册信息提交到配置与分发子模块中进行服务注册 ;(ii) 采集子模块初始化,将采集端注册信息提交到配置与分发子模块中进行服务注册 ;(iii) 采集任务监听子模块实时监听调度任务消息,并实时获取任务状态信息。任务调度状态包括任务的启动、停止、暂停,状态为停止或者暂停时,采集任务监听子模块及时对任务线程进行停止、暂停操作,状态。

33、为启动时,采集任务监听子模块启动采集任务线程,向配置与分发子模块发送数据 ;(iv) 配置与分发子模块一方面对注册信息进行管理,一方面通过负载与集群配置规则,将任务采集指标向 N(N1)个采集程序进行分发 ;(v) 采集子模块根据 SNMP 协议,将下发的采集指标进行数据采集,并对采集的数据信息进行持久化存储。0041 实时数据处理模块基于实时数据缓冲模块的 API 通讯接口从消息队列中实时获取网络设备采集信息,通过分布式流式计算框架,采用 N(N1) 个程序对采集项进行计算与处理,根据配置策略对网络设备采集的信息进行验证并记录,并通过预先设定的阀值或者振幅来验证网络设备采集的信息 ;通过阀值。

34、验证得到网络设备报警信息,通过振幅验证得到网络设备预警信息 ;实时数据处理模块通过实时数据缓冲模块 API 通讯接口将记录存储到消息队列中 ;实时数据采集模块基于实时数据缓冲模块 API 通讯接口获取记录,并根据说 明 书CN 104506373 A6/6 页9记录状态,自动改变采集频率对场景发生的采集项进行采集 ;实时数据采集模块将采集的数据通过实时数据缓冲模块 API 通讯接口将记录存储到消息队列中 ;实时数据处理模块基于实时数据缓冲模块的 API 通讯接口从消息队列中实时获取采集信息 ;通过分布式流式计算框架,采用 N(N1) 个程序对采集项进行计算与处理 ;根据配置策略对网络设备采集的。

35、信息进行验证并记录,并通过设置的阀值和振幅来验证获取网络设备状态 :0042 (1) 在没有达到阀值或者振幅范围内信息属于正常信息,为了方便历史信息查询,将正常信息保存到数据库 ;0043 (2) 通过阀值验证得到网络设备报警信息,报警信息一方面会在可视化界面提供消息提醒,一方面根据报警状态进行自动变频率采集 ;0044 (3) 通过振幅范围验证得到网络设备预警信息 ;并基于可视化浏览器界面将预警信息进行展示 ;0045 信息记录通过数据库接口保存到数据库中。0046 配置管理模块向数据存储模块发送数据查询请求,查询请求包括网络设备基本信息、记录信息、恢复信息等 ;数据存储模块根据请求完成数据查询操作,并返回数据信息 ;配置管理模块接收数据信息,完成数据处理,或配置管理模块接收数据信息,并基于可视化浏览器界面,以列表、图形化形式进行可视化展示,完成数据处理。0047 本实施例是对实施例 3 的优化,对实时数据采集模块的子模块工作原理进行了阐述。说 明 书CN 104506373 A1/3 页10图1图2说 明 书 附 图CN 104506373 A。

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 电学 > 电通信技术


copyright@ 2017-2020 zhuanlichaxun.net网站版权所有
经营许可证编号:粤ICP备2021068784号-1