《无人机巡检图像处理系统及方法.pdf》由会员分享,可在线阅读,更多相关《无人机巡检图像处理系统及方法.pdf(22页珍藏版)》请在专利查询网上搜索。
1、(10)申请公布号 CN 103941746 A (43)申请公布日 2014.07.23 CN 103941746 A (21)申请号 201410124236.6 (22)申请日 2014.03.29 G05D 1/10(2006.01) (71)申请人 国家电网公司 地址 北京市西城区西长安街 86 号 申请人 国网山东省电力公司电力科学研究 院 山东鲁能智能技术有限公司 (72)发明人 张明江 王万国 王滨海 刘俍 张方正 董罡 慕世友 任杰 傅孟潮 郑天茹 张晶晶 魏传虎 (74)专利代理机构 济南圣达知识产权代理有限 公司 37221 代理人 张勇 (54) 发明名称 无人机巡检图。
2、像处理系统及方法 (57) 摘要 本发明公开了无人机巡检图像处理系统及方 法 ; 所述系统包括无人机巡检图像处理系统, 所 述无人机巡检图像处理系统包括人机交互模块, 所述人机交互模块获取用户指令后, 由主控板解 析用户指令, 将解析的指令转发给数据收发控制 器, 所述数据收发控制器根据指令向对应的外围 设备发送参数配置指令, 并将指令执行结果回传 给主控制板, 主控制板对参数配置指令执行结果 进行处理后, 将处理后信息转发给人机交互模块, 从而展示给用户, 所述主控板还分别与辅助控制 器、 供电模块、 无线通信模块、 数据存储模块、 定位 模块、 测距仪和高度计进行通信 ; 本发明提高巡 检。
3、图像处理的自动化和信息化程度, 提高对巡检 结果的检索和处理效率, 降低巡检结果处理的成 本。 (51)Int.Cl. 权利要求书 6 页 说明书 13 页 附图 2 页 (19)中华人民共和国国家知识产权局 (12)发明专利申请 权利要求书6页 说明书13页 附图2页 (10)申请公布号 CN 103941746 A CN 103941746 A 1/6 页 2 1. 无人机巡检图像处理系统, 其特征是, 包括主控板, 所述主控板与数据收发控制器、 辅助控制器、 供电模块、 人机交互模块、 无线通信模块、 数据存储模块、 定位模块、 测距仪和 高度计进行通信, 所述供电模块与机载电池连接 ;。
4、 所述数据收发控制器包括收发控制单元, 所述收发控制单元分别与时钟同步单元和数据解析单元通信, 所述收发控制单元还与外围 设备通信, 所述外围设备包括成像模块、 摄像头、 飞行控制器和云台控制器, 所述收发控制 单元还通过触发继电器控制成像模块和摄像头。 2. 如权利要求 1 所述的无人机巡检图像处理系统, 其特征是, 所述数据收发控制器, 用 于实现与飞行控制器、 云台控制器、 成像模块和摄像头的时钟同步 ; 并实现与外接飞行控制 器、 云台控制器、 成像模块和摄像头设备数据交互 ; 此外, 还实现控制成像模块和摄像头的 拍摄动作, 云台姿态的调整 ; 所述时钟同步单元, 用于基于全局基准时。
5、间, 同步成像模块、 摄像机、 飞行控制器和云 台控制器中的时钟, 根据时间调度表确定数据收发单元的数据收发的时间窗口, 调度外设 设备的数据收发 ; 所述数据解析单元, 用于解析来自收发控制单元的接受到的外接设备信息, 如果是时 钟同步指令, 则将相应时钟同步指令发送到时钟同步单元 ; 如果是外接设备的指令或者数 据, 则将相应指令或者数据发送主控板 ; 所述收发控制单元, 用于解析数据收发指令的发送地址, 根据发送地址确定指令发送 的时间窗口, 向指定的设备发送指令或者执行相应的动作, 完成指令的发送或者执行 ; 此 外, 收发控制单元还用于根据指令读取设备中的文件和数据 ; 所述触发继电。
6、器, 用于接收数据收发控制器中的成像模块拍摄指令和摄像指令, 用以 完成成像模块和摄像机的拍摄动作, 并在触发继电器成功后, 通过馈线将触发成功与否的 状态反馈给数据收发控制器。 3. 如权利要求 1 所述的无人机巡检图像处理系统, 其特征是, 所述主控板, 用于采集和处理巡检图像数据, 对无人机巡检状态数据进行监控, 保持控 制状态, 对无人机巡检图像处理系统的各功能模块进行控制 ; 所述供电模块, 以机载电池为输入电源, 为系统中各个电压等级的芯片提供所需电压 等级的电源, 包括 DCDC 转换器和用于向不同电压等级芯片供电的 LDO 转换芯片, 各 LDO 转 换芯片均与 DCDC 转换。
7、器互联 ; 该供电模块使用机载电池作为输入电源 ; 所述机载电池, 用于提供系统运行所需的电源, 采用 12V 或者 24V 的蓄电池 ; 所述人机交互模块, 包括 LCD 显示器、 触摸屏、 指示灯和按键, 用于展示控制器的输出 信息, 并提供操作命令的输入功能, 与主控板相连接, 完成外部信号和指令的输入和处理, 根据外部信号完成相应的数据的输入和处理, 将系统处理结果的输出和展示 ; 所述无线通信模块, 用于数据和控制指令的无线传输 ; 采用 GPRS、 CDMA、 ZIGBEE、 WIFI、 LTE 无线通信方式中一种或多种与服务器端或者地面监控站之间进行通讯, 进行巡检图像 和视频影。
8、音数据以及无人机飞行状态数据交互 ; 所述数据存储模块, 用于存储系统数据以及巡检图像和视频数据, 对存储的图片进行 唯一性的命名, 确保系统中图像的名称和 ID 号唯一, 提供以输电线路信息或者 GIS 信息为 查询条件, 对图像信息的快速检索 ; 所述定位模块, 通过RS232或者RS485串口与主控板相连, 采用包括单频和双频两种定 权 利 要 求 书 CN 103941746 A 2 2/6 页 3 位模式在内的一种或多种定位方式, 完成 GPS 定位信息的接收和解析 ; 所述测距仪, 通过串口或者 CAN 总线的方式与主控板相连接, 采用激光测距的方式, 测 量无人机与输电线路设备的。
9、距离, 还采用包括但不限于激光测距、 超声波测距、 红外测距、 毫米波雷达测距、 双目识别测距和磁场强度测距在内的一种或多种方式测距 ; 所述高度计, 通过串口与主控板相连接, 用于测量无人机的飞行高度 ; 所述辅助控制器, 用于对巡检图像数据进行图像识别, 确定拍摄图像的有效性, 并匹配 拍摄图像对应的输电线路和 GIS 信息 ; 根据图像拍摄 GPS 时间确定拍摄图像对应的输电线 路杆塔和 GIS 信息, 将相应图像信息存储到数据存储模块中 ; 所述成像模块, 用于完成对高清图像信息的采集和控制信息的同步 ; 所述摄像头, 用于完成无人机输电线路巡检图像的采集 ; 所述飞行控制器, 用于实。
10、现无人机飞行姿态的控制, 并将无人机飞行的速度、 角度、 姿 态和位置信息发送给机载图像采集系统, 以便于图像数据的采集和处理 ; 所述云台控制器, 用于实现无人机云台或者吊舱的控制, 并将云台的姿态和角度信息 发送给机载图像采集系统, 以便于图像数据的采集和处理。 4. 如权利要求 1 所述的无人机巡检图像处理系统, 其特征是, 所述主控板包括数据处理单元, 所述数据处理单元分别与成像控制单元、 摄像控制单 元、 图像处理单元、 图像识别单元和状态监测单元通信, 所述成像控制单元、 摄像控制单元、 图像处理单元、 图像识别单元均与数据收发控制器连接, 所述图像处理单元与图像识别单 元通信, 。
11、所述图像识别单元与辅助控制器连接, 所述数据处理单元还与数据存储模块、 无线 通信模块、 测距仪、 高度计和定位模块连接 ; 所述数据处理单元用于实现与数据收发控制器、 数据存储模块、 定位模块、 无线通信模 块的数据交互, 对采集的图像数据识别, 完成巡检设备图像的采集, 并对采集的图像数据进 行处理 ; 所述成像控制单元用于实现对拍摄成像模块的时钟同步, 实现对无人机输电线路巡检 成像模块的控制, 完成高清图像采集 ; 所述摄像控制单元用于完成对巡检摄像头的控制, 完成视频数据的采集和存储 ; 所述图像处理单元用于对拍摄完成的图像数据进行读取 ; 完成图像数据的清晰度检查 和可用性检查, 。
12、提供对图像数据的编辑和查询功能 ; 所述图像识别单元用于对拍摄的图像进行识别, 确定是否为对应的输电线路设备 ; 用 于完成图像属性信息的匹配, 确定图像拍摄的GPS位置和对应的杆塔位置, 与GIS信息相关 联, 将相应图像属性信息存储 ; 所述状态监测单元用于实现对无人机飞行状态和云台姿态的实时监测, 并根据图像拍 摄效果, 对成像模块和摄像头进行实时姿态调整和校正。 5. 如权利要求 1 所述的无人机巡检图像处理系统, 其特征是, 所述辅助控制器包括依次连接的 GPS 定位单元、 杆塔匹配单元、 GIS 匹配单元和图像识 别单元, 所述 GPS 定位单元和图像识别单元均与输入输出单元连接,。
13、 所述杆塔匹配单元与 输电线路管理单元连接, 所述 GIS 匹配单元与 GIS 单元连接, 所述输入输出单元与主控板、 数据存储模块和定位模块连接 ; 所述输入输出单元用于实现辅助控制器与主控板、 数据存储模块和定位模块之间的无 权 利 要 求 书 CN 103941746 A 3 3/6 页 4 人机巡检的飞行状态数据、 云台姿态数据、 GPS 定位数据、 巡检图像和视频数据的交互 ; 所述 GPS 定位单元用于巡检图像数据、 飞行状态数据、 输电线路信息和 GIS 信息的读 取 ; 用于对巡检图像数据所属的 GPS 位置信息的确定 ; 所述杆塔匹配单元用于完成巡检图像所属输电线路属性信息的。
14、确定, 并确定巡检图像 拍摄杆塔的编号、 杆塔型号、 材质、 性质、 档距、 电压等级, GPS 位置、 运行维护班组、 所属单 位 ; 所述 GIS 匹配单元用于匹配巡检图像中所属的输电线路设备的地理位置、 行政区域、 地形状况地理信息 ; 用于根据图片所属GPS位置和输电线路杆塔信息确定对应的GIS信息, 明确拍摄图像所属的地理位置、 行政区域、 地形状况信息 ; 所述图像识别单元用于识别巡检图像中拍摄的输电线路设备的具体的位置信息, 将相 应图像及图像关联信息通过输入输出单元存储到数据存储模块中 ; 所述 GIS 单元用于存储和展示巡检现场的地理信息, 将巡检现场和无人机 GPS 定位信。
15、 息 的在 GIS 系统中展示和管理, 以及输电线路信息的展示和管理。 6. 如上述任一权利要求所述的无人机巡检图像处理系统的工作方法, 其特征是, 包括 如下步骤 : 步骤 (1) : 系统启动 : 步骤 (2) : 时钟同步 : 主控板向数据收发控制器下发时钟同步指令到数据收发控制器 ; 数据收发控制器中时 钟同步单元接受到时钟同步指令, 通过收发控制单元与飞行控制器进行通信, 获取飞行控 制器中的时钟作为基准时间 ; 时钟同步单元根据从飞行控制器中获取的基准时间, 确定通 信的时间调度表和全局基准时间, 确定本地的数据发送时间窗口 ; 在通信时间窗口生效后, 收发控制单元向外接的成像模块。
16、、 摄像头、 飞行控制器和云台控制器发出数据发送时钟同 步信号, 同步外接设备的时钟 ; 步骤 (3) : 图像采集 : 主控板接收到飞行控制器的图像采集指令后, 对图像采集指令进行解析, 确定图像采 集指令有效性后, 由主控板的成像控制单元通过数据收发控制器触发触发继电器, 完成成 像模块拍照动作; 同时, 触发继电器触发成功, 触发继电器的馈线状态为触发状态, 并将馈 线的触发状态反馈给主控板, 主控板获取定位模块的 GPS 位置数据、 飞行控制器中的飞行 控制数据、 从高度计中获取的无人机高度数据以及从测距仪中获取的机体与输电线路设备 距离后, 完成图像数据的采集工作 ; 步骤 (4) 。
17、: 图像识别 : 图像进行去噪后, 对图像数据进行识别, 识别出图像是否为模糊图像, 如果是模糊图 像, 则通过无线通信模块向地面监测站和飞行控制器送重新拍摄信息, 返回步骤 (3) , 提示 进行重新拍摄 ; 如果不是模糊图像, 则识别出图像中拍摄的输电线路设备的类型以及相对 位置信息 ; 如果识别出图像中不包含输电线路设备, 则通过无线通信模块向地面监测站和 飞行控制器送重新拍摄信息, 返回步骤 (3) , 提示进行重新拍摄 ; 如果识别出图像中拍摄的 输电线路设备及其相对位置信息, 则进入步骤 (5) ; 步骤 (5) : 图像位置识别 : 根据巡检图像拍摄时的飞行状态数据、 GPS 位。
18、置、 无人机的高、 无人机与拍摄输电线路 权 利 要 求 书 CN 103941746 A 4 4/6 页 5 设备的距离信息, 计算图像拍摄输电线路设备的所属的输电线路杆塔或者杆塔段 ; 步骤 (6) : 图像采集完成 : 将相应的图像和图像信息存储到数据存储模块, 通过无线通 信模块将图像数据发送到地面监控站或者后台服务器中。 7. 如权利要求 6 所述的方法, 其特征是, 所述步骤 (3) 包括的步骤如下 : 步骤 (3-1) : 采集指令 ; 无人机巡检图像处理系统的主控板接收到飞行控制器下发的采 集图像指令, 解析该指令 ; 如果指令解析失败, 则返回采集指令状态 ; 如果指令解析成。
19、功, 将该指令发送到数据收发控制器 ; 步骤 (3-2) : 成像模块拍摄 ; 数据收发控制器接到拍摄控制指令后, 触发触发继电器, 完 成成像模块拍照动作 ; 根据触发继电器馈线状态判定是否完成拍照动作, 如果触发继电器 馈线状态为触发状态, 则进入步骤 (3-3) ; 否则, 进入步骤 (3-1) ; 步骤 (3-3) : GPS 定位 ; 在触发继电器触发成功后, 触发继电器馈线状态为触发状态, 并 输出触发脉冲, 触发脉冲触发主控板中的数据处理单元, 与定位模块通信, 获取这一时刻的 无人机的 GPS 位置坐标 ; 步骤 (3-4) : 状态信息获取 ; 触发脉冲同时触发主控板中的状态。
20、监测单元, 从飞行控制 器中获取这一时刻无人机的飞行巡检的状态信息, 包括无人机飞行的高度、 速度和方向飞 行状态信息, 以及从云台控制器中获取的云台偏转角度和位移, 并从高度中获取无人机离 地高度和无人机与拍摄的输电线路设备的距离 ; 步骤 (3-5) : 图像信息存储 ; 将相应的图像和图像关联信息存储到数据存储模块中, 结 束图像采集流程。 8. 如权利要求 6 所述的方法, 其特征是, 所述步骤 (4) 的图像识别的算法步骤如下 : 步骤 (4-1) : 首先采用8个不同方向的Prewitt算子, 提取巡检图像边缘信息, 计算每个 方向边缘线段的长度, 每个方向保留较长的 K 条线段,。
21、 1 k 128, 并采用 Blob 连通结构 管理不同方向的线段 ; 步骤 (4-2) : 图像分块 : 将巡检图像分块, 计算每一块内是否存在交叉的线段, 由于巡检拍摄的输电线路杆塔图像大多贯穿图像的上下, 而且杆塔存在镂空的区域, 水平分块较大, 垂直分块较小, 将图像的水平方向上分为8块, 垂直方向上分为4块 ; 统计每 个分块内四个方向线段数量 ; 统计每个分块内四个方向线段数量 ; 所述四个方向分别为 : 水平方向线段 : -10 10 ; 垂直方向线段 : 大于 85或小于 -85 ; 斜上方向线段 : 10 85 ; 斜下方向线段 : -85 -10 ; 步骤 (4-3) : 。
22、统计分块内各方向的数量 : 统计每一分块内, 水平方向线段数目为 : H_ num, 垂直方向线段数目为 : V_num, 斜上方向线段数目为 : SUP_num, 斜下方向线段数目为 : SDown_num, 对每一分块做如下判断 : (4-3-1) : H_num, V_num, SUP_num, SDown_num 值同时小于 3, 则该分 块属于模糊块 ; (4-3-2) : SUP_num, SDown_num 值均大于 3, 则该分块属于杆塔块 ; (4-3-3) : 如不满足所述 (4-3-1) 和 (4-3-2) 两种情况, 则该分块仅有导线块 ; 权 利 要 求 书 CN 1。
23、03941746 A 5 5/6 页 6 步骤 (4-4) : 通过步骤 (4-3) 判定为模糊图像 : 统计巡检图像各分块的特性, 如模糊块 数目大于总的分块数的 80%, 则判定该幅巡检图像模糊 ; 步骤 (4-5) : 统计出杆塔块数目大于 4, 进一步采用基于块的四邻域判定法, 如最大的连 通杆塔块数目大于 4, 则判定该幅巡检图像存在杆塔, 标记为杆塔块, 基于最大连通杆塔块 的外接区域确定杆塔在巡检图像的左、 中、 右位置 ; 步骤 (4-6) : 如不满足所述步骤 (4-4) 、(4-5) 情况, 则该幅巡检图像含有导线。 9. 如权利要求 6 所述的方法, 其特征是, 所述步骤。
24、 (5) 的步骤如下 : 步骤 (5-1) : 根据确定的巡检图像拍摄时的无人机 GPS无人机位置, 无人机与拍摄输电线 路设备的距离 L设备, 水平线距 L水平, 拍摄的水平视角线 A, 以及无人机的高度 H无人机, 杆塔高 度 H杆塔和线路高度 H线路, 计算拍摄输电线路设备的 GPS线路设备位置 ; 步骤 (5-2) : 确定输电线路杆塔或者杆塔段 ; 根据计算出的巡检图像中拍摄的输电线路 设备的 GPS 位置 GPS线路设备, 到输电线路信息数据库中查询对应的 GPS 位置最为接近的输电 线路杆塔 tower0 或者杆塔段 ; 步骤 (5-3) : 通过无人机巡检行进的方向识别输电线路。
25、设备所在的杆塔侧 ; 步骤 (5-4) : 根据拍摄图像时无人机巡检的方向及云台拍摄时的角度并根据步骤 (4) 中 所识别图像中输电线路设备的相对位置, 确定拍摄输电线路设备的所在的输电线路所在相 序 ; 步骤 (5-5) : 关联线路信息, 根据巡检图像对应的输电线路杆塔或者杆塔段, 关联相应 的输电线路信息, 包括输电线路中的图片拍摄杆塔的编号、 杆塔型号、 材质、 性质、 档距、 电 压等级, GPS 位置、 运行维护班组、 所属单位, 便于通过输电线路信息检索相应的巡检图像信 息 ; 根据GPS位置与GIS信息关联, 确定巡检图像拍摄区域的地理信息、 环境信息、 气象信息 和所属的行政。
26、区域信息。 10. 如权利要求 9 所述的方法, 其特征是, 所述步骤 (5-1) 的计算步骤如下 : 步骤 (5-1-1) : 计算无人机与输电线路设备的水平偏移距离 L水平偏移; 如果图像中输电线路设备为杆塔及其附属设备则 : 其中, L设备为无人机与巡检拍摄的输电线路设备的直线距离 ; H无人机为无人机距离地面的高度 ; H杆塔为杆塔距离地面的高度 ; L水平偏移无人机与输电线路设备的在水平方向上的距离 ; 或者图像中输电线路设备为线路 : 其中, L设备为无人机与巡检拍摄的输电线路设备的直线距离 ; H无人机为无人机距离地面的高度 ; H线路为线路距离地面的高度 ; L水平偏移为无人机。
27、与输电线路设备的在水平方向上的距离 ; 步骤 (5-1-2) : 计算偏移方向, 从数据存储模块中的无人机飞行状态信息中, 读取无人 权 利 要 求 书 CN 103941746 A 6 6/6 页 7 机的飞行航向, 并根据飞行航线和拍摄视角, 计算出偏移视角线与正北方向的偏移角度 A ; 步骤 (5-1-3) : 计算图像拍摄的输电线路设备的 GPS 位置, 根据图像拍摄的 GPS无人机位 置 (photo_gps_x, photo_gps_y)、 偏移距离 L水平偏移和偏移角度 A, 计算对应的巡检图像拍摄 的输电线路设备的 GPS 位置 GPS线路设备(line_gps_x, line。
28、_gps_y) ; line_gps_x=photo_gps_x+L水平偏移*sinA ; line_gps_y=photo_gps_y+L水平偏移*cosA ; 其中, L水平偏移, 为无人机与输电线路设备的在水平方向上的距离 ; A, 为成像模块视角线与正北方向的偏移角度 ; photo_gps_x, 为图像拍摄时无人机的 GPS 位置横坐标 ; photo_gps_y, 为图像拍摄时无人机的 GPS 位置纵坐标 ; line_gps_x, 为输电线路设备的 GPS 位置横坐标 ; line_gps_y, 为输电线路设备的 GPS 位置纵坐标。 权 利 要 求 书 CN 103941746。
29、 A 7 1/13 页 8 无人机巡检图像处理系统及方法 技术领域 0001 本发明属于电力系统的运行检修领域, 涉及无人机输电线路巡检、 电子信息工程 和图像识别等领域, 尤其是一种无人机巡检图像处理系统及方法。 背景技术 0002 无人机巡线在输电线路巡检中发挥着越来越重要的作用, 可大大减轻电力服务人 员的工作负荷, 减少可能发生的人员危险的机率, 降低电力设备的维护成本, 提高电网的安 全性和可靠性。 0003 在无人机巡检过程中, 巡检结果的处理是无人机巡检的核心工作。如何确定巡检 图像中的输电线路设备的位置和类型, 又是提高巡检结果处理效率的关键。无人机巡检过 程中, 受到无人机本。
30、身以及飞行气象环境的限制, 如何高效、 快速的对无人机巡检的结果数 据图像进行处理, 识别巡检拍摄的图像中巡检设备, 与巡检的输电线路设备信息进行匹配 和关联, 一直是困扰无人机巡检的一个难题。无人巡检图像的识别包括位置确定和类型识 别两个方面。位置确定是指确定图像中拍摄输电线路设备对应的输电线路段、 杆塔以及一 定的 GIS 信息等位置信息 ; 类型识别是实现图像中拍摄输电线路设备类型的识别。 0004 现有的无人机巡检技术中, 巡检图像中输电线路设备位置确定主要是通过比对图 像拍摄那一时刻无人机的 GPS 位置坐标与杆塔 GPS 位置坐标, 大体上判断图像所属杆塔或 者线路段, 无法确定巡。
31、检图像中拍摄的输电线路设备的准确位置和设备类型。现有的巡检 图像中输电线路设备定位和匹配方法存在如下问题 : 0005 第一, 由于 GPS 位置的定位精度在 10 米左右, 定位精度较差, 无法精确记录轨迹, 无法获得较为精确的图像拍摄时的无人机位置坐标, 定位精度难以满足要求 ; 0006 第二, 由于机载成像模块拍摄图像中的输电线路设备的识别和匹配, 除与无人机 的位置坐标相关, 还与搭载成像模块云台的运动角度相关, 现有的无人机巡检图像位置定 位仅仅通过位置坐标, 在准确率和可靠度上难以达到无人机巡检的技术要求 ; 0007 第三, 现有巡检图像中输电线路设备识别的速度慢, 识别输电线。
32、路设备的准确率 较低, 识别的时间复杂度高, 难以实现快速、 有效识别 ; 0008 中国发明专利申请号为 “200910100170.6” 的 绝缘子轮廓的快速图像识别方法 和中国发明专利申请号为 “200910100169.3” 的 电力线轮廓的快速图像识别方法 专利, 以及中国发明专利申请号 “201310218102.6” 的 用于输电线路智能巡线的图像识别方法 专利, 均是通过图像识别算法识别出图像中输电线路设备的类型或缺陷, 但是无法确定图 像中输电线路设备的位置和编号。 0009 中国发明专利申请号为 “201210037780.87” 的 无人机航摄测量方法和无人机航 摄测量系。
33、统 的专利, 通过记录图像曝光时刻的GPS位置, 确定无人机的位置, 但是该方法无 法确定无人机巡检图像中输电线路设备的位置。 以上专利或者论文均是关于图像采集的技 术装置或者系统, 处于理论研究层面, 无法应用于无人机输电线路巡检领域。 0010 综上所述, 现有的应用于无人机输电线路巡检的无人机巡检图像处理系统及方 说 明 书 CN 103941746 A 8 2/13 页 9 法, 其效果并非理想, 尚有许多问题需要解决。 发明内容 0011 本发明目的是为了克服现有技术的不足, 提供了一种无人机巡检图像处理系统及 方法, 采集拍摄图像以及拍摄图像对应的输电线路杆塔和线路设备信息, 识别。
34、和定位无人 机巡检图像中拍摄的输电线路设备。提高巡检图像处理的自动化和信息化程度, 提高对巡 检结果的检索和处理效率, 降低巡检结果处理的成本。 0012 为了实现所述目的, 本发明采用如下技术方案 : 0013 无人机巡检图像处理系统, 包括主控板, 所述主控板与数据收发控制器、 辅助控制 器、 供电模块、 人机交互模块、 无线通信模块、 数据存储模块、 定位模块、 测距仪和高度计进 行通信, 所述供电模块与机载电池连接 ; 所述数据收发控制器包括收发控制单元, 所述收 发控制单元分别与时钟同步单元和数据解析单元通信, 所述收发控制单元还与外围设备通 信, 所述外围设备包括成像模块、 摄像头。
35、、 飞行控制器和云台控制器, 所述收发控制单元还 通过触发继电器控制成像模块和摄像头。 0014 所述数据收发控制器, 用于实现与飞行控制器、 云台控制器、 成像模块和摄像头 的时钟同步 ; 并实现与外接飞行控制器、 云台控制器、 成像模块和摄像头设备数据交互 ; 此 外, 还实现控制成像模块和摄像头的拍摄动作, 云台姿态的调整。 0015 所述时钟同步单元, 用于基于全局基准时间, 同步成像模块、 摄像机、 飞行控制器 和云台控制器中的时钟, 根据时间调度表确定数据收发单元的数据收发的时间窗口, 调度 外设设备的数据收发 ; 0016 所述数据解析单元, 用于解析来自收发控制单元的接受到的外。
36、接设备信息, 如果 是时钟同步指令, 则将相应时钟同步指令发送到时钟同步单元 ; 如果是外接设备的指令或 者数据, 则将相应指令或者数据发送主控板。 0017 所述收发控制单元, 用于解析数据收发指令的发送地址, 根据发送地址确定指令 发送的时间窗口, 向指定的设备发送指令或者执行相应的动作, 完成指令的发送或者执行 ; 此外, 收发控制单元还用于根据指令读取设备中的文件和数据。 0018 所述触发继电器, 用于接收数据收发控制器中的成像模块拍摄指令和摄像指令, 用以完成成像模块和摄像机的拍摄动作, 并在触发继电器成功后, 通过馈线将触发成功与 否的状态反馈给数据收发控制器。 0019 所述主。
37、控板, 用于采集和处理巡检图像数据, 对无人机巡检状态数据进行监控, 保 持控制状态, 对无人机巡检图像处理系统的各功能模块进行控制。 0020 所述供电模块, 以机载电池为输入电源, 为系统中各个电压等级的芯片提供所需 电压等级的电源, 包括 DCDC 转换器和用于向不同电压等级芯片供电的 LDO 转换芯片, 各 LDO 转换芯片均与 DCDC 转换器互联。该供电模块使用机载电池 (12V 或者 24V 蓄电池) 作 为输入电源。 0021 所述机载电池, 用于提供系统运行所需的电源, 可采用 12V 或者 24V 的蓄电池。 0022 所述人机交互模块, 包括 LCD 显示器、 触摸屏、 。
38、指示灯和按键, 用于展示控制器的 输出信息, 并提供操作命令的输入功能, 与主控板相连接, 完成外部信号和指令的输入和处 理, 根据外部信号完成相应的数据的输入和处理, 将系统处理结果的输出和展示。 说 明 书 CN 103941746 A 9 3/13 页 10 0023 所述无线通信模块, 用于数据和控制指令的无线传输。采用 GPRS、 CDMA、 ZIGBEE、 WIFI、 LTE 无线通信方式中一种或多种与服务器端或者地面监控站之间进行通讯, 进行巡检 图像和视频等影音数据以及无人机飞行状态数据交互。 0024 所述数据存储模块, 用于存储系统数据以及巡检图像和视频数据, 对存储的图片。
39、 进行唯一性的命名, 确保系统中图像的名称和 ID 号唯一, 提供以输电线路信息或者 GIS 信 息为查询条件, 对图像信息的快速检索。 0025 所述定位模块, 通过RS232或者RS485串口与主控板相连, 可采用包括单频和双频 两种定位模式在内的一种或多种定位方式, 完成 GPS 定位信息的接收和解析。 0026 所述测距仪, 通过串口或者 CAN 总线的方式与主控板相连接, 可采用激光测距的 方式, 测量无人机与输电线路设备的距离, 还可采用包括但不限于激光测距、 超声波测距、 红外测距、 毫米波雷达测距、 双目识别测距和磁场强度测距在内的一种或多种方式测距。 0027 所述高度计, 。
40、通过串口与主控板相连接, 用于测量无人机的飞行高度。 0028 所述辅助控制器, 用于对巡检图像数据进行图像识别, 确定拍摄图像的有效性, 并 匹配拍摄图像对应的输电线路和 GIS 信息 ; 根据图像拍摄 GPS 时间确定拍摄图像对应的输 电线路杆塔和 GIS 信息, 将相应图像信息存储到数据存储模块中。 0029 所述成像模块, 用于完成对高清图像信息的采集和控制信息的同步 ; 0030 所述摄像头, 用于完成无人机输电线路巡检图像的采集 ; 0031 所述飞行控制器, 用于实现无人机飞行姿态的控制, 并将无人机飞行的速度、 角 度、 姿态和位置等信息发送给机载图像采集系统, 以便于图像数据。
41、的采集和处理。 0032 所述云台控制器, 用于实现无人机云台或者吊舱的控制, 并将云台的姿态和角度 等信息发送给机载图像采集系统, 以便于图像数据的采集和处理。 0033 所述主控板包括数据处理单元, 所述数据处理单元分别与成像控制单元、 摄像控 制单元、 图像处理单元、 图像识别单元和状态监测单元通信, 所述成像控制单元、 摄像控制 单元、 图像处理单元、 图像识别单元均与数据收发控制器连接, 所述图像处理单元与图像识 别单元通信, 所述图像识别单元与辅助控制器连接, 所述数据处理单元还与数据存储模块、 无线通信模块、 测距仪、 高度计和定位模块连接。 0034 所述数据处理单元用于实现与。
42、数据收发控制器、 数据存储模块、 定位模块、 无线通 信模块的数据交互, 对采集的图像数据识别, 完成巡检设备图像的采集, 并对采集的图像数 据进行处理 ; 0035 所述成像控制单元用于实现对拍摄成像模块的时钟同步, 实现对无人机输电线路 巡检成像模块的控制, 完成高清图像采集 ; 0036 所述摄像控制单元用于完成对巡检摄像头的控制, 完成视频数据的采集和存储 ; 0037 所述图像处理单元用于对拍摄完成的图像数据进行读取 ; 完成图像数据的清晰度 检查和可用性检查, 提供对图像数据的编辑和查询功能 ; 0038 所述图像识别单元用于对拍摄的图像进行识别, 确定是否为对应的输电线路设 备 。
43、; 用于完成图像属性信息的匹配, 确定图像拍摄的 GPS 位置和对应的杆塔位置, 与 GIS 信 息相关联, 将相应图像属性信息存储 ; 0039 所述状态监测单元用于实现对无人机飞行状态和云台姿态的实时监测, 并根据图 像拍摄效果, 对成像模块和摄像头进行实时姿态调整和校正 ; 说 明 书 CN 103941746 A 10 4/13 页 11 0040 所述辅助控制器包括依次连接的 GPS 定位单元、 杆塔匹配单元、 GIS 匹配单元和图 像识别单元, 所述 GPS 定位单元和图像识别单元均与输入输出单元连接, 所述杆塔匹配单 元与输电线路管理单元连接, 所述GIS匹配单元与GIS单元连接。
44、, 所述输入输出单元与主控 板、 数据存储模块和定位模块连接。 0041 所述输入输出单元用于实现辅助控制器与主控板、 数据存储模块和定位模块之间 的无人机巡检的飞行状态数据、 云台姿态数据、 GPS 定位数据、 巡检图像和视频等数据的交 互 ; 0042 所述GPS定位单元用于巡检图像数据、 飞行状态数据、 输电线路信息和GIS信息的 读取 ; 用于对巡检图像数据所属的 GPS 位置信息的确定 ; 采用单频模式或者双频模式中的 一种或者多种, 还可采用全球定位系统、 俄罗斯的格罗纳斯 (Glonass) 、 欧洲的伽利略导航 系统 (Galileo) 和北斗全球定位系统中一种或者多种进行位置。
45、定位。 0043 所述杆塔匹配单元用于完成巡检图像所属输电线路属性信息的确定, 并确定巡检 图像拍摄杆塔的编号、 杆塔型号、 材质、 性质、 档距、 电压等级, GPS 位置、 运行维护班组、 所属 单位 ; 0044 所述 GIS 匹配单元用于匹配巡检图像中所属的输电线路设备的地理位置、 行政区 域、 地形状况地理信息 ; 用于根据图片所属GPS位置和输电线路杆塔信息确定对应的GIS信 息, 明确拍摄图像所属的地理位置、 行政区域、 地形状况信息 ; 0045 所述图像识别单元用于识别巡检图像中拍摄的输电线路设备的具体的位置信息, 将相应图像及图像关联信息通过输入输出单元存储到数据存储模块中。
46、 ; 0046 所述 GIS 单元用于存储和展示巡检现场的地理信息, 将巡检现场和无人机 GPS 定 位信息的在 GIS 系统中展示和管理, 以及输电线路信息的展示和管理。 0047 无人机巡检图像处理系统的工作方法, 包括如下步骤 : 0048 步骤 (1) : 系统启动 : 0049 系统启动, 进行系统自检, 检查辅助控制器、 数据收发控制器、 无线通信模块、 数据 存储模块、 定位模块、 测距仪和高度计均正常启后, 检测外接的成像模块、 摄像头、 飞行控制 器和云台控制器是否连接正常 ; 0050 步骤 (2) : 时钟同步 : 0051 主控板向数据收发控制器下发时钟同步指令到数据收。
47、发控制器。 数据收发控制器 中时钟同步单元接受到时钟同步指令, 通过收发控制单元与飞行控制器进行通信, 获取飞 行控制器中的时钟作为基准时间。时钟同步单元根据从飞行控制器中获取的基准时间, 确 定通信的时间调度表和全局基准时间, 确定本地的数据发送时间窗口 ; 在通信时间窗口生 效后, 收发控制单元向外接的成像模块、 摄像头、 飞行控制器和云台控制器发出数据发送时 钟同步信号, 同步外接设备的时钟。 0052 步骤 (3) : 图像采集 : 0053 主控板接收到飞行控制器的图像采集指令后, 对图像采集指令进行解析, 确定图 像采集指令有效性后, 由主控板的成像控制单元通过数据收发控制器触发触。
48、发继电器, 完 成成像模块拍照动作 ; 同时, 触发继电器触发成功, 触发继电器的馈线状态为触发状态, 并 将馈线的触发状态反馈给主控板, 主控板获取定位模块的 GPS 位置数据、 飞行控制器中的 飞行控制数据、 从高度计中获取的无人机高度数据以及从测距仪中获取的机体与输电线路 说 明 书 CN 103941746 A 11 5/13 页 12 设备距离后, 完成图像数据的采集工作 ; 0054 步骤 (4) : 图像识别 : 0055 图像进行去噪后, 对图像数据进行识别, 识别出图像是否为模糊图像, 如果是模糊 图像, 则通过无线通信模块向地面监测站和飞行控制器送重新拍摄信息, 返回步骤 。
49、(3) , 提 示进行重新拍摄 ; 如果不是模糊图像, 则识别出图像中拍摄的输电线路设备的类型 (杆塔、 导线、 绝缘子串和金具等) 以及相对位置信息。如果识别出图像中不包含输电线路设备, 则 通过无线通信模块向地面监测站和飞行控制器送重新拍摄信息, 返回步骤 (3) , 提示进行重 新拍摄 ; 如果识别出图像中拍摄的输电线路设备及其相对位置信息, 则进入步骤 (5) ; 0056 步骤 (5) : 图像位置识别 : 0057 根据巡检图像拍摄时的飞行状态数据、 GPS 位置、 无人机的高、 无人机与拍摄输电 线路设备的距离信息, 计算图像拍摄输电线路设备的所属的输电线路杆塔或者杆塔段 ; 0058 步骤 (6) : 图像采集完成 : 将相应的图像和图像信息存储到数据存储模块, 通过无 线通信模块将图像数据发送到地面监控站或者后台服务器中。 0059 所述步骤 (3) 包括的步骤如下 : 0060 步骤 (3-1) : 采集指令 ; 无人机巡检图像处理系统的主控板接收到飞行控制器下发 的采集图。