广角传感器阵列模块及其图像校正方法、操作方法与应用.pdf

上传人:xia****o6 文档编号:1084038 上传时间:2018-03-30 格式:PDF 页数:34 大小:1.45MB
返回 下载 相关 举报
摘要
申请专利号:

CN200810145794.5

申请日:

2008.08.22

公开号:

CN101656840A

公开日:

2010.02.24

当前法律状态:

授权

有效性:

有权

法律详情:

授权|||实质审查的生效IPC(主分类):H04N 5/335申请日:20080822|||公开

IPC分类号:

H04N5/335; G06T5/00

主分类号:

H04N5/335

申请人:

原相科技股份有限公司

发明人:

赵子毅; 陈信嘉; 林志新; 古人豪; 蔡彰哲

地址:

中国台湾新竹科学工业园区新竹县创新一路5号5楼

优先权:

专利代理机构:

北京润平知识产权代理有限公司

代理人:

周建秋;王凤桐

PDF下载: PDF下载
内容摘要

一种用于产生组合图像的广角传感器阵列模块,该广角传感器阵列模块包括第一图像传感器、第二图像传感器、存储单元及处理器。该第一图像传感器用于采集一第一图像。该第二图像传感器用于采集一第二图像并与该第一图像传感器具有相对空间关系。该存储单元存储至少一个转换矩阵,该转换矩阵是根据该第一图像传感器与该第二图像传感器的相对空间关系所求得。所述处理器利用所述转换矩阵组合所述第一图像及所述第二图像为组合图像。本发明另提供一种广角传感器阵列模块的图像校正方法、操作方法与应用。

权利要求书

1: 一种广角传感器阵列模块,用于产生组合图像,该广角传感器阵列 模块包括: 第一图像传感器,用于采集第一图像; 第二图像传感器,用于采集第二图像,且该第二图像传感器与所述第一 图像传感器具有相对空间关系; 存储单元,存储至少一个转换矩阵,其中该转换矩阵是根据所述第一图 像传感器与所述第二图像传感器的所述相对空间关系所求得;以及 处理器,利用所述转换矩阵将所述第一图像和所述第二图像组合为组合 图像。
2: 根据权利要求1所述的广角传感器阵列模块,其中所述相对空间关 系为所述第一图像传感器与所述第二图像传感器间的横向方向夹角。
3: 根据权利要求2所述的广角传感器阵列模块,其中所述横向方向夹 角为2Φ,所述转换矩阵为: cos ( - Φ ) 0 - sin ( - Φ ) 0 1 0 sin ( - Φ ) 0 cos ( - Φ ) ]]> 和/或 cos ( - Φ ) 0 - sin ( - Φ ) 0 1 0 sin ( - Φ ) 0 cos ( - Φ ) . ]]>
4: 根据权利要求1所述的广角传感器阵列模块,其中所述相对空间关 系为所述第一图像传感器与所述第二图像传感器间的横向方向夹角和纵向 方向夹角。
5: 根据权利要求4所述的广角传感器阵列模块,其中所述横向方向夹 角为2Φ,所述纵向方向夹角为θ,所述转换矩阵为: cos ( - Φ ) - sin ( - Φ ) sin ( θ ) - sin ( - Φ ) cos ( θ ) 0 cos ( θ ) - sin ( θ ) sin ( - Φ ) cos ( - Φ ) sin ( θ ) cos ( - Φ ) cos ( θ ) ]]> 和/或 cos ( Φ ) - sin ( Φ ) sin ( θ ) - sin ( Φ ) cos ( θ ) 0 cos ( θ ) - sin ( θ ) sin ( Φ ) cos ( Φ ) sin ( θ ) cos ( Φ ) cos ( θ ) . ]]>
6: 根据权利要求1所述的广角传感器阵列模块,还包括用于设置所述 第一图像传感器和所述第二图像传感器的框架,以使所述第一图像传感器与 所述第二图像传感器间具有所述相对空间关系。
7: 一种广角传感器阵列模块的图像校正方法,所述广角传感器阵列模 块包括第一图像传感器和第二图像传感器,所述图像校正方法包括下列步 骤: 提供至少三个校正点,其中所述校正点形成参考空间坐标轴且所述校正 点具有参考空间坐标; 用所述第一图像传感器采集包括前述校正点中至少三个校正点以形成 第一图像,其中所述第一图像形成第一图像坐标轴且所述第一图像中的校正 点具有第一图像坐标; 根据所述参考空间坐标和所述第一图像坐标求得第一转换矩阵; 用所述第二图像传感器采集包括所述校正点中至少三个校正点以形成 第二图像,其中所述第二图像形成第二图像坐标轴且所述第二图像中的校正 点具有第二图像坐标; 根据所述参考空间坐标和所述第二图像坐标求得第二转换矩阵;以及 利用所述第一转换矩阵和/或所述第二转换矩阵将所述第一图像和/或所 述第二图像转换到虚拟平面。
8: 根据权利要求7所述的图像校正方法,其中所述参考空间坐标轴、 所述第一图像坐标轴和所述第二图像坐标轴为三维直角坐标系统。
9: 根据权利要求7所述的图像校正方法,其中所述虚拟平面是基于所 述参考空间坐标轴、所述第一图像坐标轴和所述第二图像坐标轴其中之一。
10: 根据权利要求9所述的图像校正方法,其中当虚拟平面基于所述参 考空间坐标轴时,利用所述第一转换矩阵将所述第一图像转换到所述虚拟平 面和利用所述第二转换矩阵将所述第二图像转换到所述虚拟平面。
11: 根据权利要求9所述的图像校正方法,其中当虚拟平面基于所述第 一图像坐标轴时,利用所述第一和第二转换矩阵将所述第二图像转换到所述 虚拟平面。
12: 根据权利要求9所述的图像校正方法,其中当虚拟平面基于所述第 二图像坐标轴时,利用所述第一和第二转换矩阵将所述第一图像转换到所述 虚拟平面。
13: 一种广角传感器阵列模块的图像校正方法,所述广角传感器阵列模 块包括第一图像传感器和第二图像传感器,所述图像校正方法包括下列步 骤: 决定所述第一图像传感器与所述第二图像传感器的相对空间关系; 根据所述相对空间关系求得至少一个转换矩阵;以及 利用所述转换矩阵将所述第一图像传感器所采集的图像和/或所述第二 图像传感器所采集的图像转换到虚拟平面。
14: 根据权利要求13所述的图像校正方法,其中所述相对空间关系为 所述第一图像传感器与所述第二图像传感器间的横向方向夹角和/或纵向方 向夹角。
15: 根据权利要求13所述的图像校正方法,其中所述虚拟平面是基于 所述第一图像传感器的坐标轴或所述第二图像传感器的坐标轴。
16: 根据权利要求13所述的图像校正方法,其中所述第一图像传感器 和第二图像传感器的视角可重叠或不重叠。
17: 一种广角传感器阵列模块的操作方法,所述广角传感器阵列模块包 括第一图像传感器、第二图像传感器和存储有至少一个转换矩阵的存储单 元,该转换矩阵是根据所述第一图像传感器与所述第二图像传感器的相对空 间关系所求得,所述操作方法包括下列步骤: 用所述第一图像传感器采集第三图像; 用所述第二图像传感器采集第四图像; 利用所述转换矩阵将所述第三图像和/或所述第四图像转换到虚拟平 面;以及 采集所述虚拟平面中所采集物体图像的至少一个特征参数。
18: 根据权利要求17所述的操作方法,其中所述特征参数是选自物体 的坐标、面积、色彩、方向性、边界、端点数以及长宽比构成的组中的一种 或几种的组合。
19: 根据权利要求17所述的操作方法,其中所述第一图像传感器与所 述第二图像传感器的所述相对空间关系为所述第一图像传感器与所述第二 图像传感器间的横向方向夹角和/或纵向方向夹角。
20: 一种广角传感器阵列模块的操作方法,所述广角传感器阵列模块包 括第一图像传感器、第二图像传感器和存储有至少一个转换矩阵的存储单 元,该转换矩阵是根据所述第一图像传感器与所述第二图像传感器的相对空 间关系所求得,所述操作方法包括下列步骤: 用所述第一图像传感器采集第三图像; 采集所述第三图像中的物体图像的第一特征参数; 用所述第二图像传感器采集第四图像; 采集所述第四图像中的物体图像的第二特征参数;以及 利用所述转换矩阵将所述第一特征参数和所述第二特征参数转换到虚 拟平面。
21: 根据权利要求20所述的操作方法,其中所述第一和第二特征参数 是选自物体的坐标、面积、色彩、方向性、边界、端点数以及长宽比构成的 组中的一种或几种的组合。
22: 根据权利要求20所述的操作方法,其中所述第一图像传感器与所 述第二图像传感器的所述相对空间关系为所述第一图像传感器与所述第二 图像传感器间的横向方向夹角和/或纵向方向夹角。
23: 一种指向定位系统,包括: 广角传感器阵列模块,用于产生组合图像并具有组合视角,所述广角传 感器阵列包括: 第一图像传感器,用于采集第一图像; 第二图像传感器,用于采集第二图像,该第二图像传感器与所述第 一图像传感器具有相对空间关系;以及 图像处理单元,存储有转换矩阵并利用该转换矩阵将所述第一图像 和所述第二图像组合为组合图像,其中所述转换矩阵是根据所述第一图 像传感器与所述第二图像传感器的相对空间关系所求得; 至少一个光源,位于所述组合视角内;以及 图像显示装置,耦合连接所述广角传感器阵列模块,用于将所述光源的 图像坐标与所述组合图像结合并显示所述组合图像和所述光源图像。
24: 根据权利要求23所述的指向定位系统,其中所述光源为光枪的瞄 准器或指向器。

说明书


广角传感器阵列模块及其图像校正方法、操作方法与应用

    【发明领域】

    本发明系关于一种图像传感器,特别是关于一种具有多传感器的广角传感器阵列模块及其图像校正方法、操作方法与应用。

    背景技术

    现有技术中,可通过采用广角镜头或鱼眼镜头以增加图像传感器的视角范围,然而此类镜头通常具有较高的成本。因此,本领域提出了通过利用多个一般的图像传感器以组成较宽广的视野并降低成本的方法。例如美国专利公开第2005/0025313号公开了一种“利用多个窄视角图像以形成广视角图像的数字图像系统(Digital imaging system for creating a wide-angle image frommultiple narrow angle images)”,其包括多个图像装置。每个图像装置具有预设视角以及于选定时间采集图像的机制。所述图像装置中每个图像装置的视角被设置为与其相邻图像装置的视角相重叠。所述数字图像系统还包括控制模块控制所述图像装置于同一时间各自采集图像,且每个图像装置所采集的图像将被合成为广视角图像。

    因此,如何合成多个独立图像以形成广视角图像即成为一个重要的课题。本发明提供一种利用转换矩阵合成多个图像的广角传感器阵列模块,所述转换矩阵系表示各独立图像装置间的相对空间关系并预先存储于所述广角传感器阵列模块中。此外,若图像装置间的相对空间关系可预先得知,则每个图像装置的视角不需与相邻图像装置的视角相重叠,可进一步增加广角传感器阵列模块的组合视角范围。

    【发明内容】

    本发明的一个目的在于提供一种广角传感器阵列模块,其利用至少两个一般的图像传感器以增加传感器阵列模块的视角范围,因而所述广角传感器阵列模块中不需采用高价格的特殊镜头,可有效降低模块成本。

    本发明另一个目的在于提供一种广角传感器阵列模块的图像校正方法,其预先根据至少两个图像传感器彼此间的相对空间关系以计算出至少一个转换矩阵。此外,当图像传感器彼此间的相对空间关已预先得知,则每个图像装置的视角不需与相邻图像装置的视角相重叠,可进而增加整体视角范围。

    本发明再一个目的在于提供一种广角传感器阵列模块的图像操作方法,其利用预先存储于所述广角传感器阵列模块中的转换矩阵正确地完成多个图像的合成,从而形成广视角图像。

    本发明再一个目的在于提供一种广角传感器阵列模块的应用,其中所述广角传感器阵列模块应用于指向定位系统,可有效增加所述指向定位系统的视角范围并降低系统成本。

    为达上述目的,本发明提供一种用于产生一组合图像的广角传感器阵列模块,所述广角传感器阵列模块包括第一图像传感器、第二图像传感器、存储单元及处理器。所述第一图像传感器用于采集第一图像。所述第二图像传感器用于采集第二图像,且所述第二图像传感器与所述第一图像传感器具有相对空间关系。所述存储单元存储至少一个转换矩阵,其中该转换矩阵根据所述第一图像传感器与所述第二图像传感器的所述相对空间关系所求得。所述处理器利用所述转换矩阵组合所述第一图像及所述第二图像为组合图像。

    根据本发明的另一特点,本发明还提供一种广角传感器阵列模块的图像校正方法,所述广角传感器阵列模块包括第一图像传感器和第二图像传感器,所述图像校正方法包括下列步骤:提供至少三个校正点,其中所述校正点形成参考空间坐标轴且所述校正点具有参考空间坐标;用所述第一图像传感器采集包括前述校正点中至少三个校正点以形成第一图像,其中所述第一图像形成第一图像坐标轴且所述第一图像中的校正点具有第一图像坐标;根据所述参考空间坐标和所述第一图像坐标求得第一转换矩阵;用所述第二图像传感器采集包括前述校正点中至少三个校正点以形成第二图像,其中所述第二图像形成第二图像坐标轴且所述第二图像中的校正点具有第二图像坐标;根据所述参考空间坐标和所述第二图像坐标求得第二转换矩阵;以及利用所述第一转换矩阵和/或所述第二转换矩阵将所述第一图像和/或所述第二图像转换到虚拟平面。

    根据本发明的另一特点,本发明再提供一种广角传感器阵列模块的图像校正方法,所述广角传感器阵列模块包括第一图像传感器和第二图像传感器,所述图像校正方法包括下列步骤:决定所述第一图像传感器与所述第二图像传感器的相对空间关系;根据所述相对空间关系求得至少一个转换矩阵;以及利用所述转换矩阵将所述第一图像传感器所采集的图像和/或所述第二图像传感器所采集的图像转换到虚拟平面。

    根据本发明的另一特点,本发明再提供一种广角传感器阵列模块的操作方法,所述广角传感器阵列模块包括第一图像传感器、第二图像传感器和存储单元存储有至少一个转换矩阵,该转换矩阵是根据所述第一图像传感器与所述第二图像传感器的相对空间关系所求得,所述操作方法包括下列步骤:以所述第一图像传感器采集第三图像;以所述第二图像传感器采集第四图像;利用所述转换矩阵将所述第三图像和/或所述第四图像转换到虚拟平面;决定所述虚拟平面中所采集物体图像的至少一个特征参数;及传输所述特征参数到图像显示装置或存储装置。

    根据本发明的另一特点,本发明再提供一种广角传感器阵列模块的操作方法,所述广角传感器阵列模块包括第一图像传感器、第二图像传感器及存储有至少一个转换矩阵的存储单元,所述转换矩阵是根据所述第一图像传感器与所述第二图像传感器的相对空间关系所求得,所述操作方法包括下列步骤:以所述第一图像传感器采集第三图像;采集所述第三图像中的物体图像的第一特征参数;以所述第二图像传感器采集第四图像;采集所述第四图像中的物体图像的第二特征参数;利用所述转换矩阵将所述第一特征参数和所述第二特征参数转换到虚拟平面;以及传输所述特征参数到图像显示装置或存储装置。

    根据本发明的另一特点,本发明再提供一种指向定位系统,包括广角传感器阵列模块、至少一个光源及图像显示装置。所述广角传感器阵列模块用于产生组合图像并具有组合视角,所述广角传感器阵列包括:第一图像传感器用于采集第一图像;第二图像传感器用于采集第二图像,所述第二图像传感器与所述第一图像传感器具有相对空间关系;及图像处理单元,存储有转换矩阵并利用该转换矩阵组合所述第一图像及所述第二图像为组合图像,其中所述转换矩阵是根据所述第一图像传感器与所述第二图像传感器的相对空间关系所求得。所述光源位于所述组合视角内。所述图像显示装置耦合连接所述广角传感器阵列模块,用于将所述光源的图像结合于所述组合图像并显示所述组合图像及所述光源图像。

    本发明地广角传感器阵列模块及其操作方法与应用,利用于校正模式中预先求得的至少一个转换矩阵进行多个图像的合成,可有效增加所述广角传感器阵列模块的整体视角,以增加其实用性。此外,由于所述广角传感器阵列模块中不需使用特殊镜头,可有效降低成本。

    【附图说明】

    图1a是本发明实施例的广角传感器阵列模块的示意图;

    图1b是本发明实施例的广角传感器阵列模块的另一示意图;

    图2是本发明实施例的广角传感器阵列模块的操作方法的流程图;

    图3是本发明实施例的广角传感器阵列模块的校正模式的流程图;

    图4a是本发明实施例的广角传感器阵列模块的校正模式的操作示意图;

    图4b是图4a的广角传感器阵列模块的校正模式的操作示意图的上视图;

    图5a显示了以定位点的参考空间坐标轴为基准的定位点图像的示意图;

    图5b显示了以第一图像传感器的第一图像坐标轴为基准所采集的定位点图像的示意图;

    图5c显示了以第二图像传感器的第二图像坐标轴为基准所采集的定位点图像的示意图;

    图5d显示了不同坐标轴间定位点图像的坐标转换的示意图;

    图6a是本发明实施例的广角传感器阵列模块的校正模式的另一操作示意图,其中使用6个定位点进行校正;

    图6b显示了图6a中不同坐标轴间定位点图像的坐标转换的示意图;

    图7a是本发明实施例的广角传感器阵列模块的校正模式的另一操作示意图,其中使用8个定位点进行校正;

    图7b显示了图7a中不同坐标轴间定位点图像的坐标转换的示意图;

    图8a是本发明实施例的广角传感器阵列模块的校正模式的另一操作示意图;

    图8b是图8a的广角传感器阵列模块的校正模式的操作示意图的上视图;

    图9a显示了图8a中以定位点的参考空间坐标轴为基准的定位点图像的示意图;

    图9b显示了图8a中以第一图像传感器的第一图像坐标轴为基准所采集的定位点图像的示意图;

    图9c显示了图8a中以第二图像传感器的第二图像坐标轴为基准所采集的定位点图像的示意图;

    图10a是本发明实施例的广角传感器阵列模块的操作模式的流程图;

    图10b是本发明实施例的广角传感器阵列模块的操作模式的另一流程图;

    图11a是本发明实施例的广角传感器阵列模块的操作模式的应用示意图;

    图11b显示了图11a的广角传感器阵列模块的第一图像传感器所采集的图像;

    图11c显示了图11a的广角传感器阵列模块的第二图像传感器所采集的图像;

    图11d显示了图11a的广角传感器阵列模块所采集的组合图像。

    主要元件符号说明

    1,1’  广角传感器阵列模块    2图像处理单元

    21处理器                      22存储单元

    23传输接口单元                VA,VA’组合视角

    S1第一图像传感器              S2第二图像传感器

    VA1第一视角                   VA2第二视角

    P1~P4定位点                  P1’~P4’定位点图像

    P1”~P4”定位点图像          n组合视角的中央法线

    n1第一图像传感器的中央法线

    n2第二图像传感器的中央法线

    θ1,-Φ组合视角的中央法线与n1间的横向角度差

    θ2,Φ组合视角的中央法线与n2间的横向角度差

    θ定位点空间坐标Z轴的图像坐标z轴间的纵向角度差

    31~32步骤                   310~313步骤

    3211~3215步骤               3221~3226步骤

    T3,T4光源                   I3第三图像

    I4第四图像                   CI组合图像

    H1,H2转换矩阵

    【具体实施方式】

    为了让本发明的上述和其他目的、特征及优点能更明显,下文特举本发明实施例,并配合所附图示,作详细说明如下。在本说明书的说明内容中,类似的元件是以相同的编号表示。

    请参照图1a及1b所示,其显示了根据本发明实施例的广角传感器阵列模块1及1’的示意图。所述广角传感器阵列模块1及1’包括第一图像传感器S1、第二图像传感器S2以及图像处理单元2,其包括处理器21、存储单元22和传输接口单元23。此外,所述广角传感器阵列模块1及1’还可以包括设置于所述第一图像传感器S1和所述第二图像传感器S2前方的多个透镜或透镜组(未图示),用于提高所述图像传感器的感光效率;所述图像处理单元2还可以包括用于提供所述广角传感器阵列模块1及1’操作时所需的电力的电力供应单元(未图示)。

    所述第一和第二图像传感器S1及S2例如可为CCD图像传感器或CMOS图像传感器,但并不限于此。所述第一图像传感器S1用于采集图像,并具有第一视角VA1;所述第二图像传感器S2用于采集图像,并具有第二视角VA2;所述广角传感器阵列模块1及1’则用于采集组合图像,并分别具有组合视角VA及VA’,该组合视角VA及VA’由所述第一视角VA1和所述第二视角VA2组合而成,因此VA(VA’)>VA1且VA(VA’)>VA2。此外,此实施例中虽仅以两个图像传感器做说明,然而在实际上根据不同的应用,所述广角传感器阵列模块1及1’可以具有两个以上图像传感器。

    请再参照图1a所示,所述广角传感器阵列模块1中,所述第一图像传感器S1和所述第二图像传感器S2平行地设置,也就是说所述第一图像传感器S1的第一视角VA1的中央法线n1、所述第二图像传感器S2的第二视角VA2的中央法线n2与所述组合视角VA的中央法线间不具有角度差。所述第一图像传感器S1和所述第二图像传感器S2耦合连接所述图像处理单元2。所述图像处理单元2的处理器21用于处理所述第一图像传感器S1和所述第二图像传感器S2所采集的图像,例如图像校正、图像合成、特征采集及失真补偿等。所述存储单元22用于存储所述第一图像传感器S1和所述第二图像传感器S2所采集的图像和/或所述处理器21所处理过的图像,并存储多个参数以供所述处理器21处理所述第一图像传感器S1和所述第二图像传感器S2所采集的图像,例如所述第一图像传感器S1和所述第二图像传感器S2间的空间距离和所述中央法线n1、n2及n间的夹角θ(图1a中θ=0°)。所述传输接口单元23用于将所述广角传感器阵列模块1及1’所采集的图像传输到例如图像显示器(未图示)进行显示或记忆装置进行存储。本发明利用所述图像处理单元2处理并合成所述第一图像传感器S1和所述第二图像传感器S2所采集的图像,以使所述广角传感器阵列模块1可具有较宽广组合视角VA。

    请再参照图1b所示,所述广角传感器阵列模块1’为所述广角传感器阵列模块1的替代实施例,其中所述第一图像传感器S1和所述第二图像传感器S2彼此间具有角度差θ=θ1+θ2,亦即所述第一视角VA1的中央法线n1与所述组合视角VA的中央法线间具有第一角度差θ1;所述第二视角VA2的中央法线n2与所述组合视角VA的中央法线间具有第二角度差θ2,其中所述第一角度差θ1可等于或不等于所述第二角度差θ2。在此实施例中,所述存储单元22中存储有所述第一图像传感器S1和所述第二图像传感器S2间的相对空间关系的各种参数,例如空间距离、所述第一角度差θ1、所述第二角度差θ2以及根据所述参数所求得图像间的转换矩阵;所述处理器21则利用所述转换矩阵形成虚拟平面。在此替代实施例中,所述图像处理单元2同样处理并合成所述第一图像传感器S1和所述第二图像传感器S2所采集的图像,以使所述广角传感器阵列模块1’具有较宽广的组合视角VA’,其中VA’>VA。此外,本发明的广角传感器阵列模块1及1’可应用于指向定位系统,例如光枪游戏的光枪指向定位或指向器(pointer)的指向定位,以减少指向定位系统的使用视角限制。

    请参照图2所示,其显示了本发明实施例的广角传感器阵列模块1及1’的操作方法的流程图,其包括校正模式31和操作模式32。所述校正模式31在所述广角传感器阵列模块1及1’出厂前或在第一次使用前所执行,用于获得所述第一图像传感器S1和所述第二图像传感器S2间的相对空间关系的各种参数,并据以求得两图像间的转换矩阵以形成虚拟平面;所述操作模式32包括将所述第一图像传感器S1和所述第二图像传感器S2所采集的图像合成到所述虚拟平面以及采集图像中的物体特征等步骤。所述校正模式31和所述操作模式32的详细执行方式将于下面的段落中说明。

    请参照图3所示,其显示了本发明实施例的校正模式31的流程图,包括下列步骤:提供至少三个校正点于第一图像传感器和第二图像传感器的视角内,其中所述校正点具有参考空间坐标轴(步骤310);以所述第一图像传感器采集第一图像,其具有第一图像坐标轴(步骤3111);求得所述第一图像中所述校正点的图像坐标(步骤3112);根据所述参考空间坐标轴和所述第一图像坐标轴的相对空间关系求得第一转换矩阵(步骤3113);以所述第二图像传感器采集第二图像,其具有第二图像坐标轴(步骤3121);求得所述第二图像中所述校正点的图像坐标(步骤3122);根据所述参考空间坐标轴和所述第二图像坐标轴的相对空间关系求得第二转换矩阵(步骤3123);以及利用所述第一转换矩阵将所述第一图像转换到虚拟平面和/或利用所述第二转换矩阵将所述第二图像转换到所述虚拟平面(步骤313)。

    请参照图4a及4b所示,图4a显示本发明实施例的校正模式31的一种实施方式,图4b则为图4a的上视图。在此实施方式中,利用所述广角传感器阵列模块1’采集空间中4定位点P1~P4的图像以作为校正参数,其中所述定位点P1~P4例如可为红外光发光二极体或红外光镭射二极体,且所述定位点P1~P4位于所述第一视角VA1与所述第二视角VA2的重叠区域(步骤310)。所述定位点P1~P4具有{x,y,z}轴的参考空间坐标轴;所述广角传感器阵列模块1’基于{X,Y,Z}轴的空间坐标轴采集图像,且所述第一和第二图像传感器拥有各自的图像坐标轴,例如所述第一图像传感器具有{X1,Y,Z1}轴的第一图像坐标轴;所述第二图像传感器具有{X2,Y,Z2}轴的第二图像坐标轴。于此实施方式中,所述第一图像传感器S1和所述第二图像传感器S2间具有横向角度差而不具有纵向角度差,例如所述第一图像传感器S1的中央法线n1(X1,0,Z1)与所述定位点P1~P4的参考空间坐标轴的z轴间具有第一角度差θ1=-Φ;所述第二图像传感器S2的中央法线n2(X2,0,Z2)与所述定位点P1~P4的参考空间坐标轴的z轴间具有第二角度差θ2=Φ(图4b)。

    图5a显示以所述定位点P1~P4的参考空间坐标轴为基准的定位点图像。图5b显示所述第一图像传感器S1所采集的定位点图像P1’~P4’(第一图像),其以所述第一图像坐标轴为基准(步骤3111),并可计算出所述第一图像中各定位点的图像坐标(步骤3112)。通过坐标变换则可求得所述参考空间坐标轴与所述第一图像坐标轴间的转换矩阵H1如式(1)(步骤3113):

    H1=cos(-Φ)0-sin(-Φ)010sin(-Φ)0cos(-Φ)---(1)]]>

    也就是说,若以所述定位点P1~P4的参考空间坐标轴为基准的定位点P1~P4图像坐标已知为(x,y,z),则可通过所述转换矩阵H1将图像坐标(x,y,z)转换为以所述第一图像传感器S1的第一图像坐标轴为基准的图像坐标如式(2),

    H1×xyz=xcos(-Φ)-zsin(-Φ)yxsin(-Φ)+zcos(-Φ)---(2)]]>

    同理,图5c显示所述第二图像传感器S2所采集的定位点图像P1”~P4”(第二图像),其以所述第二图像坐标轴为基准(步骤3121),并可计算出所述第二图像中各定位点的图像坐标(步骤3122)。同理,通过坐标变换则可求得所述参考空间坐标轴与所述第二图像坐标轴间的转换矩阵H2如式(3)(步骤3123):

    H2=cos(Φ)0-sin(Φ)010sin(Φ)0cos(Φ)---(3)]]>

    也就是说,若以所述定位点P1~P4的参考空间坐标轴为基准的定位点P1~P4图像坐标已知为(x,y,z),则可通过所述转换矩阵H2将图像坐标(x,y,z)转换为以所述第二图像传感器S2的第二图像坐标轴为基准的图像坐标如式(4),

    H2×xyz=xcos(Φ)-zsin(Φ)yxsin(Φ)+zcos(Φ)---(4)]]>

    上述求得的转换矩阵H1及H2表示所述第一图像传感器S1与所述第二图像传感器S2相对的空间关系,最后利用所述第一转换矩阵H1将所述第一图像转换到虚拟平面和/或利用所述第二转换矩阵H2将所述第二图像转换到所述虚拟平面(步骤313),其中所述虚拟平面可以以所述定位点P1~P4的参考空间坐标轴为基准(即所述第一图像和所述第二图像分别通过转换矩阵转换到所述参考空间坐标轴)、以所述第一图像传感器S1的第一图像坐标轴为基准(即所述第二图像通过转换矩阵转换到所述第一图像坐标轴)或以所述第二图像传感器S2的第二图像坐标轴为基准(即所述第一图像通过转换矩阵转换到所述第二图像坐标轴)。

    此外,当图像传感器间的相对空间关系为未知时,利用所述第一图像传感器S1所采集的定位点图像P1’~P4’的坐标和预先设定的所述定位点P1~P4的图像坐标,例如(x,y,z),即可根据式(2)求得第一转换矩阵H1;同理,利用所述第二图像传感器S2所采集的定位点图像P1”~P4”的坐标和预先设定的所述定位点P1~P4的图像坐标,即可根据式(4)求得第二转换矩阵H2。

    请参照图5d所示,其显示将所述第一图像和所述第二图像通过转换矩阵转换到所述虚拟平面的实施例。例如当以所述定位点P1~P4的参考空间坐标轴为基准时,所述定位点的坐标为P1=(-1,1)、P2=(1,1)、P3=(-1,-1)及P4=(1,-1)。若已知图像传感器间的相对空间关系(即已知转换矩阵),则可透过所述转换矩阵H1转换为以所述第一图像坐标轴为基准的图像坐标(图5d的左下图)或透过所述转换矩阵H2转换为以所述第二图像坐标轴为基准的图像坐标(图5d的右下图)。此外,若以所述第一图像坐标为基准,所述定位点P1”~P4”经过两次转换矩阵则可转换到以所述第一图像坐标轴为基准的虚拟平面上,并分别相应对于定位点P1’~P4’;同理,若以所述第二图像坐标轴为基准,所述定位点P1’~P4’经过两次转换矩阵则可转换到以所述第二图像坐标轴为基准的虚拟平面上,并分别相应对于定位点P1”~P4”。

    可以了解的是,定位点的数目并不限于4个。由于至少需要3个定位点才能形成参考空间坐标轴,因此在本发明中,所述第一视角VA1和所述第二视角VA2的视角区域内分别至少需设置3定位点。图6a及6b则显示本发明的校正模式31中利用6个定位点的实施方式;图7a及7b则显示本发明的校正模式31中利用8个定位点的实施方式,因其转换矩阵的计算方式类似于使用4个定位点的实施方式,于此不再赘述。

    请参照图8a及8b所示,图8a显示本发明实施例的校正模式31的替代实施例,图8b则为图8a的上视图。在此替代实施例中,所述广角传感器阵列模块1’同样采集空间中4个定位点P1~P4的图像以作为校正参数,其中所述定位点P1~P4位于所述第一视角VA1与所述第二视角VA2的重叠区域(步骤310)。所述定位点P1~P4具有{x,y,z}轴的参考空间坐标轴;所述广角传感器阵列模块1’基于{X,Y,Z}轴的空间坐标轴采集图像,且所述第一和第二图像传感器拥有各自的图像坐标轴,例如所述第一图像传感器具有{X1,Y,Z1}轴的第一图像坐标轴;所述第二图像传感器具有{X2,Y,Z2}轴的第二图像坐标轴。在替代实施例中,所述第一图像传感器S1和所述第二图像传感器S2间具有横向角度差以及纵向角度差,例如所述第一图像传感器S1的中央法线n1(X1,0,Z1)与所述定位点P1~P4的参考空间坐标轴的z轴间具有横向第一角度差θ1=-Φ以及纵向角度差θ;所述第二图像传感器S2的中央法线n2(X2,0,Z2)与所述定位点P1~P4的参考空间坐标轴的z轴间具有横向第二角度差θ2=Φ以及纵向角度差θ,其中所述第一图像传感器S1的中央法线n1与所述定位点P1~P4的参考空间坐标轴的z轴间的纵向角度差也可不等于所述第二图像传感器S2的中央法线n2与所述定位点P1~P4的参考空间坐标轴的z轴间的纵向角度差。

    请参照图9a至9c所示,图9a显示以所述定位点P1~P4的参考空间坐标轴为基准的定位点图像。图9b显示所述第一图像传感器S1所采集的定位点图像P1’~P4’,其以所述第一图像坐标轴为基准(步骤3111),并可求得各定位点图像坐标(步骤3112)。通过坐标变换则可求得所述参考空间坐标轴与所述第一图像坐标轴间的x轴方向转换矩阵H1x如式(5)以及y轴方向转换矩阵H1y如式(6)(步骤3113):

    H1x=cos(-Φ)0-sin(-Φ)010sin(-Φ)0cos(-Φ)---(5)]]>

    H1y=1000cos(θ)-sin(θ)0sin(θ)cos(θ)---(6)]]>

    接着可求得所述参考空间坐标轴与所述第一图像坐标轴间的转换矩阵H1如式(7):

    H1=H1x×H1y=cos(-Φ)-sin(-Φ)sin(θ)-sin(-Φ)cos(θ)0cos(θ)-sin(θ)sin(-Φ)cos(-Φ)sin(θ)cos(-Φ)cos(θ)---(7)]]>

    也就是说,若以所述定位点P1~P4的参考空间坐标轴为基准的定位点P1~P4图像坐标已知为(x,y,z),则可通过所述转换矩阵H1将图像坐标为(x,y,z)转换为以所述第一图像传感器S1的第一图像坐标轴为基准的图像坐标如式(8),

    H1×xyz=xcos(-Φ)-(ysin(θ)+zcos(θ))sin(-Φ)ycos(θ)-zsin(θ)xsin(-Φ)+(ysin(θ)+zcos(θ))cos(-Φ)---(8)]]>

    同理,图9c显示所述第二图像传感器S2所采集的定位点图像P1”~P4”,其以所述第二图像坐标为基准(步骤3121),同样可求得各定位点的坐标(步骤3122)。通过坐标变换则可求得所述参考空间坐标轴与所述第二图像坐标轴间的x轴方向转换矩阵H2x如式(9)及y轴方向转换矩阵H2y如式(10)(步骤3123):

    H2x=cos(Φ)0-sin(Φ)010sin(Φ)0cos(Φ)---(9)]]>

    H2y=1000cos(θ)-sin(θ)0sin(θ)cos(θ)---(10)]]>

    接着可求得所述参考空间坐标轴与所述第二图像坐标轴间的转换矩阵H2如式(11):

    H2=H2x×H2y=cos(Φ)-sin(Φ)sin(θ)-sin(Φ)cos(θ)0cos(θ)-sin(θ)sin(Φ)cos(Φ)sin(θ)cos(Φ)cos(θ)---(11)]]>

    也就是说,若以所述定位点P1~P4的参考空间坐标轴为基准的定位点P1~P4图像坐标已知为(x,y,z),则可通过所述转换矩阵H2将图像坐标为(x,y,z)转换为以所述第二图像传感器S2的第二图像坐标轴为基准的图像坐标如式(12),

    H2×xyz=xcos(Φ)-(ysin(θ)+zcos(θ))sin(Φ)ycos(θ)-zsin(θ)xsin(Φ)+(ysin(θ)+zcos(θ))cos(Φ)---(12)]]>

    此外,当图像传感器间的相对空间关系为未知时,利用所述第一图像传感器S1所采集的定位点图像P1’~P4’的坐标和预先设定的所述定位点P1~P4的图像坐标,例如(x,y,z),即可根据式(8)求得第一转换矩阵H1;同理,利用所述第二图像传感器S2所采集的定位点图像P1”~P4”的坐标和预先设定的所述定位点P1~P4的图像坐标,即可根据式(12)求得第二转换矩阵H2。

    执行所述校正模式31后所求得的所述转换矩阵(H1、H2)以及虚拟平面,将预先被存储于所述图像处理单元2的存储单元22以供所述处理器21在操作模式32中使用。

    在另一替代实施例中,所述第一图像传感器S1和所述第二图像传感器S2可设置于预制框架(未图示)上,且当所述第一图像传感器S1和所述第二图像传感器S2设置于所述框架时,图像传感器彼此间的相对空间关系已预先得知。例如已预先知道所述第一图像传感器S1的中央法线与所述第二图像传感器S2的中央法线间所具有的横向角度差和/或纵向角度差。因此在此替代实施例的校正模式31中,则不须分别设置至少三个定位点于所述第一图像传感器S1和所述第二图像传感器S2的视角区域内,可直接利用图像传感器彼此间的相对空间关系以计算转换矩阵,并利用所述转换矩阵求得虚拟平面,最后将所述转换矩阵和虚拟平面存储于所述存储单元22内。此时,所述虚拟平面可以以所述第一图像传感器S1的第一图像坐标轴为基准(即所述第二图像传感器S2所采集的图像可通过所述转换矩阵转换到所述第一图像坐标轴)或以所述第二图像传感器S2的第二图像坐标轴为基准(即所述第一图像传感器S1所采集的图像可通过所述转换矩阵转换到所述第二图像坐标轴)。

    请再参照图2所示,如前所述,所述校正模式31为所述广角传感器阵列模块1及1’出厂前或使用前所执行的初始校正程序,在实际使用阶段(操作模式32)则不需重复进行所述校正模式31。以下接着说明操作模式32。

    请参照图10a所示,其显示本发明实施例的广角传感器阵列模块1及1’的操作模式32的流程图,其包括用第一图像传感器采集第三图像(步骤3211);用第二图像传感器采集第四图像(步骤3212);利用所述转换矩阵将所述第三图像和所述第四图像合成到虚拟平面(步骤3213);采集所述组合图像中的物体特征(步骤3214)以及传送所述物体特征参数(步骤3215)。

    请参照图10a及11a至11d所示,以下利用应用实施例来说明所述广角传感器阵列模块1及1’的操作模式32。此时,所述广角传感器阵列模块1’应用于指向定位系统,且所述第一图像传感器S1的第一视角VA1和所述第二图像传感器S2的第二视角VA2内分别具有例如光枪的瞄准器或指向器(pointer)的光源T3及T4。首先用所述第一图像传感器S1采集第三图像I3(步骤3211)并用所述第二图像传感器S2采集第四图像I4(步骤3212);接着所述处理单元21利用预先存储于所述存储单元22的转换矩阵,例如校正模式31所求得的转换矩阵H1及H2,将所述第三图像I3和所述第四图像I4合成到虚拟平面上以形成组合图像CI,其具有组合视角VA。如前所述,所述虚拟平面可以以所述第三图像I3或所述第四图像I4的图像坐标轴为基准;接着所述处理器21采集所述组合图像CI中物体图像的特征参数,例如物体的坐标、面积、色彩、方向性、边界、端点数以及长宽比等参数(步骤3214);最后通过所述传输接口单元23将所述物体参数传送至图像显示器或存储装置(未图示),其中所述图像显示器例如可以是电视屏幕、投影幕、游戏机屏幕或电脑屏幕,其可将所述光源T3及T4的图像坐标结合于所述组合图像CI并显示所述光源T3及T4及所述组合图像CI的图像。

    请参照图10b及11a至11d所示,接着说明本发明实施例的广角传感器阵列模块1及1’的操作模式32的另一替代实施例,包括下列步骤:以第一图像传感器采集第三图像(步骤3221);采集第三图像的物体特征(步骤3222);以第二图像传感器采集第四图像(步骤3223);采集第四图像的物体特征(步骤3224);利用所述转换矩阵将所述第一和所述第二特征参数合成到虚拟平面(步骤3226);以及传送所述物体特征参数(步骤3215)。本替代实施例与图10a的差异在于,所述第三及第四图像被采集后,所述处理器11则分别先采集图像中物体的特征参数,再利用存储于所述存储单元22中的转换矩阵将所述物体参数合成到所述虚拟平面。最后同样经过所述传输接口单元23将所述物体参数传送到图像显示器或存储装置。由此,本发明通过设置至少两个图像传感器于广角传感器阵列模块1及1’中,可有效增加指向定位系统的视角范围(如图11d)。

    综上所述,由于可通过使用多个图像传感器以增加图像感测模块的视角范围,因此如何正确合成多个图像成为一个重要的课题。有鉴于此,本发明提出一种广角传感器阵列模块及其图像校正方法及操作方法,透过预先存储至少一个转换矩阵于所述广角传感器阵列模块中,并在操作时利用所述转换矩阵正确地组合图像。此外,本发明的广角传感器阵列模块可应用于指向定位系统,例如枪击游戏,可有效增加指向定位系统的操作视角范围,并降低系统成本。

    虽然本发明已以上述优选实施例公开,然其并非用于限定本发明,任何本发明所属技术领域中具有通常知识者,在不脱离本发明的精神和范围内,可以作各种变化与修改。因此本发明的保护范围当根据附加的权利要求书所要求的范围为准。

广角传感器阵列模块及其图像校正方法、操作方法与应用.pdf_第1页
第1页 / 共34页
广角传感器阵列模块及其图像校正方法、操作方法与应用.pdf_第2页
第2页 / 共34页
广角传感器阵列模块及其图像校正方法、操作方法与应用.pdf_第3页
第3页 / 共34页
点击查看更多>>
资源描述

《广角传感器阵列模块及其图像校正方法、操作方法与应用.pdf》由会员分享,可在线阅读,更多相关《广角传感器阵列模块及其图像校正方法、操作方法与应用.pdf(34页珍藏版)》请在专利查询网上搜索。

一种用于产生组合图像的广角传感器阵列模块,该广角传感器阵列模块包括第一图像传感器、第二图像传感器、存储单元及处理器。该第一图像传感器用于采集一第一图像。该第二图像传感器用于采集一第二图像并与该第一图像传感器具有相对空间关系。该存储单元存储至少一个转换矩阵,该转换矩阵是根据该第一图像传感器与该第二图像传感器的相对空间关系所求得。所述处理器利用所述转换矩阵组合所述第一图像及所述第二图像为组合图像。本发。

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 电学 > 电通信技术


copyright@ 2017-2020 zhuanlichaxun.net网站版权所有
经营许可证编号:粤ICP备2021068784号-1