摄像设备及其控制方法.pdf

上传人:e1 文档编号:4883232 上传时间:2018-11-21 格式:PDF 页数:25 大小:7.39MB
返回 下载 相关 举报
摘要
申请专利号:

CN201410058861.5

申请日:

2014.02.20

公开号:

CN104010128A

公开日:

2014.08.27

当前法律状态:

授权

有效性:

有权

法律详情:

授权|||实质审查的生效IPC(主分类):H04N 5/232申请日:20140220|||公开

IPC分类号:

H04N5/232; H04N5/355(2011.01)I; H04N5/14

主分类号:

H04N5/232

申请人:

佳能株式会社

发明人:

市川茂

地址:

日本东京都大田区下丸子3丁目30番2号

优先权:

2013.02.20 JP 2013-031428

专利代理机构:

北京魏启学律师事务所 11398

代理人:

魏启学

PDF下载: PDF下载
内容摘要

本发明提供一种摄像设备及其控制方法。摄像控制单元在第一曝光时间期间,使用摄像单元的第一像素组进行摄像以获得高曝光图像。所述摄像控制单元还在短于所述第一曝光时间的第二曝光时间期间,使用所述摄像单元的第二像素组进行摄像以获得第一低曝光图像。所述摄像控制单元还在短于所述第一曝光时间的第三曝光时间期间,使用所述第二像素组进行摄像以获得第二低曝光图像。所述第二曝光时间和所述第三曝光时间与所述第一曝光时间至少部分重叠。检测单元将所述第一低曝光图像与所述第二低曝光图像进行比较,以检测所述被摄体的运动。

权利要求书

权利要求书1.  一种摄像设备,其包括:摄像单元,用于拍摄被摄体的图像;摄像控制单元,用于在第一曝光时间期间使用所述摄像单元的第一像素组进行摄像以获得高曝光图像,在短于所述第一曝光时间的第二曝光时间期间使用所述摄像单元的第二像素组进行摄像以获得第一低曝光图像,并且在短于所述第一曝光时间的第三曝光时间期间使用所述第二像素组进行摄像以获得第二低曝光图像,其中,所述第二曝光时间和所述第三曝光时间与所述第一曝光时间至少部分重叠;以及检测单元,用于将所述第一低曝光图像与所述第二低曝光图像进行比较,以检测所述被摄体的运动。2.  根据权利要求1所述的摄像设备,其中,还包括:生成单元,用于基于所述检测单元所检测到的所述被摄体的运动,将所述高曝光图像与所述第一低曝光图像和所述第二低曝光图像中的至少一个进行合成,以生成高动态范围图像,即,HDR图像。3.  根据权利要求2所述的摄像设备,其中,所述摄像控制单元在获得所述高曝光图像之后,在短于所述第一曝光时间的第四曝光时间期间,使用所述第一像素组进行摄像以获得第三低曝光图像,以及在所述检测单元没有检测到所述被摄体的运动的情况下,所述生成单元将所述高曝光图像与所述第三低曝光图像进行合成以生成HDR图像。4.  根据权利要求3所述的摄像设备,其中,所述检测单元以预定大小的块为单位,将所述第一低曝光图像与所述第二低曝光图像进行比较,以检测各块中所述被摄体的运动,以及在被检测到所述被摄体的运动的块的数量小于阈值的情况下,所述生成单元将所述高曝光图像与所述第三低曝光图像进行合成以生成HDR图像。5.  根据权利要求2所述的摄像设备,其中,所述摄像控制单元在获得所述高曝光图像之后,在短于所述第一曝光时间的第四曝光时间期间,使用所述第一像素组进行摄像以获得第三低曝光图像,以及所述生成单元基于所述检测单元所检测到的所述被摄体的运动,计算所述第一低曝光图像、所述第二低曝光图像和所述第三低曝光图像的加权平均值以获得合成图像,并且将所述高曝光图像与所述合成图像进行合成以生成HDR图像。6.  根据权利要求2所述的摄像设备,其中,所述摄像控制单元在获得所述第一低曝光图像和所述第二低曝光图像之后,在短于所述第一曝光时间的第五曝光时间期间,使用所述第二像素组进行摄像以获得第四低曝光图像,所述检测单元将所述第二低曝光图像与所述第四低曝光图像进行比较,以检测所述被摄体的运动,以及所述生成单元基于所述检测单元的检测的结果,选择所述第一低曝光图像、所述第二低曝光图像和所述第四低曝光图像中的一个,并且将所选择的低曝光图像与所述高曝光图像进行合成以生成HDR图像。7.  根据权利要求1~6中任一项所述的摄像设备,其中,所述摄像单元的像素以预定数量的行为一组,交替属于所述第一像素组或所述第二像素组。8.  根据权利要求1所述的摄像设备,其中,所述第二曝光时间等于所述第三曝光时间。9.  一种用于摄像设备的控制方法,其中,所述摄像设备包括用于拍摄被摄体的图像的摄像单元,所述控制方法包括以下步骤:摄像控制步骤,用于在第一曝光时间期间使用所述摄像单元的第一像素 组进行摄像以获得高曝光图像,在短于所述第一曝光时间的第二曝光时间期间使用所述摄像单元的第二像素组进行摄像以获得第一低曝光图像,并且在短于所述第一曝光时间的第三曝光时间期间使用所述第二像素组进行摄像以获得第二低曝光图像,其中,所述第二曝光时间和所述第三曝光时间与所述第一曝光时间至少部分重叠;以及检测步骤,用于将所述第一低曝光图像与所述第二低曝光图像进行比较,以检测所述被摄体的运动。

说明书

说明书摄像设备及其控制方法
技术领域
本发明涉及一种摄像设备和用于控制摄像设备的方法。
背景技术
众所周知,用来拍摄静止图像或运动图像所使用的、包括CCD或CMOS图像传感器的固态图像传感器,具有通常窄于人眼的动态范围(可以区分色阶的最小亮度和最大亮度的比)。因此,出现的问题是,难以在照片上忠实地再现人眼实际看到的色阶。为了解决该问题,已知这样一种技术,该技术用于将多个不同曝光的图像(过曝光图像(即,亮图像,以下称为“H图像”)、正确曝光图像(以下称为“M图像”)、曝光不足图像(即,暗图像,以下称为“L图像”)等)合成在一起,以获得具有比标准摄像更宽的动态范围(以下称为“HDR”)的图像。日本特开平6-141229说明了一个HDR技术的例子。
根据传统HDR技术,在开始拍摄之后,顺次拍摄多个不同曝光的图像(例如,H图像、M图像和L图像,即,总共三个图像)。此后,将这些图像合成在一起,从而使得可以通过H和L图像之间曝光的差来实现HDR。然而,在这类HDR技术中,在不同时刻拍摄要合成的图像,因此,如果被摄体正在移动,则在图像合成时出现问题。
为了解决这一问题,已知这样一种技术,该技术用于将画面分成多个区域,并且在基于区域而改变曝光的情况下进行摄像,以获得各区域的不同曝光的图像,从而减少获得要合成的多个图像的时刻之间的差(参考日本特开2011-244309)。根据日本特开2011-244309,可以以行为单位来控制图像传感器的曝光时间,从而使得根据过曝光行生成亮H图像,并且根据曝光不足行生成暗L图像。可以并行曝光要过曝光的行和要曝光不足的行,因此,减少 获得H和L图像的时刻之间的差。
当根据日本特开2011-244309的技术生成L和H图像时,由于L图像的曝光时间短于H图像的曝光时间,因而在生成一个H图像时,可以生成两个以上的L图像。(严格地说,如果L图像的曝光时间比H图像的曝光时间的一半长,则在完成H图像的曝光时,未完成第二个L图像的曝光。然而,即使在这种情况下,在完成H图像的曝光之后不久,完成第二个L图像的曝光。因此,大体上说,在生成一个H图像时,可以生成两个以上的L图像。)在日本特开2011-244309中,例如,利用在生成一个H图像时所生成的两个以上的L图像,从而使得将一个H图像和两个以上的L图像合成在一起。
顺便提及,在不同时刻获得第一个和第二个L图像,因此,在第一个和第二个L图像之间可能存在被摄体的运动。然而,目前仍未提出一种考虑到这一点的利用两个以上的L图像的方案。
发明内容
考虑到上述情况,做出本发明。本发明提供一种新的技术,该技术利用在使用图像传感器的预定像素组获得高曝光图像的时刻、使用其它预定像素组所获得的两个低曝光图像。这里所使用的术语“高曝光图像”和“低曝光图像”,仅意味着相对曝光度。因此,高曝光图像并非意味着过曝光,而低曝光图像也并非意味着曝光不足。
根据本发明的一个方面,提供一种摄像设备,其包括:摄像单元,用于拍摄被摄体的图像;摄像控制单元,用于在第一曝光时间期间使用所述摄像单元的第一像素组进行摄像以获得高曝光图像,在短于所述第一曝光时间的第二曝光时间期间使用所述摄像单元的第二像素组进行摄像以获得第一低曝光图像,并且在短于所述第一曝光时间的第三曝光时间期间使用所述第二像素组进行摄像以获得第二低曝光图像,其中,所述第二曝光时间和所述第三 曝光时间与所述第一曝光时间至少部分重叠;以及检测单元,用于将所述第一低曝光图像与所述第二低曝光图像进行比较,以检测所述被摄体的运动。
根据本发明的另一方面,提供一种用于摄像设备的控制方法,其中,所述摄像设备包括用于拍摄被摄体的图像的摄像单元,所述控制方法包括以下步骤:摄像控制步骤,用于在第一曝光时间期间使用所述摄像单元的第一像素组进行摄像以获得高曝光图像,在短于所述第一曝光时间的第二曝光时间期间使用所述摄像单元的第二像素组进行摄像以获得第一低曝光图像,并且在短于所述第一曝光时间的第三曝光时间期间使用所述第二像素组进行摄像以获得第二低曝光图像,其中,所述第二曝光时间和所述第三曝光时间与所述第一曝光时间至少部分重叠;以及检测步骤,用于将所述第一低曝光图像与所述第二低曝光图像进行比较,以检测所述被摄体的运动。
通过以下参考附图对典型实施例的说明,本发明的其它特征将显而易见。
附图说明
图1是示出根据第一实施例的摄像设备100的结构的框图。
图2是示出摄像单元103中所包括的图像传感器的结构的图。
图3是使用摄像设备100获得正常图像的时序图。
图4是示出在使用摄像设备100获得正常图像时,通过垂直驱动电路206所生成的信号的时序图。
图5是根据第一实施例使用摄像设备100获得HDR图像的时序图。
图6是示出根据第一实施例在使用摄像设备100获得用于生成HDR图像的图像时从垂直驱动电路206所生成的信号的时序图。
图7是示出用于使用运动检测单元108基于两个L图像检测被摄体的运动的示例性方法的图。
图8是示出根据第一实施例的运动检测处理和HDR图像生成处理的流程图。
图9是根据第二实施例的使用摄像设备100获得HDR图像的时序图。
图10是示出根据第二实施例的基于运动检测的结果选择用于生成HDR图像的图像的处理的流程图。
图11是示出如何将要进行运动检测的L图像分成多个块的图。
图12是用于说明第二实施例的变形例的图。
图13是根据第三实施例,使用摄像设备100获得HDR图像的时序图。
图14是示出根据第三实施例的基于运动检测的结果选择用于生成HDR图像的图像的处理的流程图。
图15A和15B是示出第三实施例的被摄体的运动方向的变化的图。
具体实施方式
现参考附图说明本发明的实施例。应该注意,通过权利要求书来限定本发明的技术范围,并且不局限于下述实施例中的任一个。另外,对于实现本发明,并非必需这些实施例所述的特征的所有组合。
第一实施例
图1是示出根据第一实施例的摄像设备100的结构的框图。摄像设备100是例如数字照相机。镜头单元101使得来自被摄体的光会聚至摄像单元103。镜头单元101包括焦距改变单元、遮挡入射光的遮光单元等。光量调整单元102被设置在镜头单元101和摄像单元103之间。光量调整单元102包括例如用于插入光衰减滤波器的机构和光圈机构。摄像单元103包括将穿过镜头单元101和光量调整单元102的入射光转换成模拟电信号的像素单元、将模拟电信号转换成数字信号的A/D转换电路等。
信号处理单元104生成用于从摄像单元103所输入的像素信号的校正参 数,并且对像素信号进行必要的图像信号校正处理。摄像控制单元105基于来自整体控制/计算单元106的输入信号,生成摄像单元103、信号处理单元104等所需的定时信号、用于设置用于放大视频信号的增益的信号、用于设置曝光时间的信号和用于其它控制的信号。
整体控制/计算单元106根据摄像设备100的操作来进行处理和计算。整体控制/计算单元106包括临时存储来自信号处理单元104等的信号的临时存储单元107、基于来自摄像单元103的信号而检测画面上的运动被摄体的运动检测单元108、以及判断曝光条件的曝光计算单元109。基于曝光计算单元109的计算结果,整体控制/计算单元106使用光量调整单元102调整光的量,或者使用摄像控制单元105调整曝光时间或用于放大视频信号的增益。
在本实施例中,信号处理单元104与整体控制/计算单元106分开。可选地,可以将信号处理单元104包括在整体控制/计算单元106或摄像单元103中。可以将摄像控制单元105包括在摄像单元103中。
操作单元110包括诸如按钮、拨盘等的人机接口。用户使用操作单元110向摄像设备100输入操作命令。记录单元111将由整体控制/计算单元106所生成的图像数据记录至记录介质。显示单元112显示由整体控制/计算单元106基于来自信号处理单元104的信号所生成的图像数据、与通过操作单元110所输入的命令相对应的图标等。
接着,图2示出摄像单元103中所包括的图像传感器的结构。光接收像素单元201接收来自镜头单元101的光,对入射至其表面的光进行光电转换,并且输出所获得的电信号。作为一个单位(像素),光接收像素单元201包括光电二极管202、传输晶体管203、信号放大器204和复位晶体管205。摄像单元103包括二维配置的多个光接收像素单元(像素)201。
基于来自图像传感器中所包括的垂直驱动电路206的信号,操作传输晶体管203和复位晶体管205。这里,垂直驱动电路206包括移位寄存器、驱动各 像素的信号生成电路等。由于通过定时信号(TX1~TX4、RS1~RS4等)控制传输晶体管203和复位晶体管205,因而可以通过复位或者读取光电二极管202的电荷来控制曝光时间。
水平驱动电路209包括移位寄存器(未示出)、列放大器电路和A/D转换电路210、信号输出选择开关211、输出电路(未示出)等。这里,通过基于来自摄像控制单元105的信号而改变列放大器电路和A/D转换电路210的设置,可以放大从像素所读取的信号。
接着说明用于使用摄像设备100获得正常图像的处理。图3是使用摄像设备100获得正常图像的时序图。基于由整体控制/计算单元106或摄像控制单元105所生成的垂直同步信号,进行曝光和信号读取。
图4是示出在使用摄像设备100获得正常图像时,由垂直驱动电路206所生成的信号的时序图。当信号TX和信号RS上升时,复位光电二极管202的电荷,并且开始曝光。在摄像控制单元105所设置的条件下,按照预定顺序,对光接收像素单元201顺次进行该操作。此后,在过去预定曝光时间之后,信号TX再次上升,并且将光电二极管202的电荷读出至信号放大器204。基于来自信号放大器204的信号来生成视频信号,并且通过水平驱动电路209输出视频信号。在摄像控制单元105所设置的条件下,也进行该操作。
本实施例的摄像设备100中所包括的图像传感器是CMOS类型的。因此,可以设置垂直驱动电路206中所包括的移位寄存器,以确定将按照什么顺序来驱动传输晶体管203的哪些行。另外,可以重复选择同一行来读取信号。可以设置水平驱动电路209中所包括的移位寄存器,以确定要在哪一列操作信号输出选择开关211来读取信号,即,要选择并输出同一行中的信号中的哪一个。因此,可以确定要按照什么顺序读取像素阵列中的哪些像素。使得读取信号在信号处理单元104中经过校正处理。此后,整体控制/计算单元106生成最终图像。
接着说明用于使用摄像设备100检测被摄体的运动的处理。本实施例的运动检测处理利用在使用图像传感器的预定像素组(第一像素组)获得高曝光图像(H图像)的时刻、使用其它预定像素组(第二像素组)所获得的两个低曝光图像(L图像)。这里所使用的术语“H图像”和“L图像”,仅意为相对曝光度。因此,H图像并非意为过曝光,并且L图像并非意为曝光不足。例如,H图像可以是正确曝光图像。
这里假定基于运动检测的结果将高曝光图像和低曝光图像合成在一起来生成HDR图像,来说明用于生成高动态范围(HDR)图像的情况下的运动检测处理。然而,对于本实施例的运动检测处理,HDR图像的生成并非是必要的。在运动检测处理之后,可以无需生成HDR图像,并且除用于生成HDR图像的处理以外,运动检测结果还可以应用于任何目的。例如,摄像设备100可以拍摄正确曝光图像,并且作为H图像将其记录至记录介质111,从两个L图像检测被摄体的运动,并且将运动检测结果记录至H图像的头。可以在以后,例如,在进行图像校正处理时等,使用这样记录的运动检测结果。
图5是在第一实施例中,使用摄像设备100获得HDR图像的时序图。尽管在图5中,假定获得30fps的运动图像,但是在获得静止图像而不是运动图像时,也可以应用本实施例。即使在获得运动图像时,帧频也不局限于30fps。
在本实施例中,对于摄像单元103的图像传感器,可以以两行为一组交替设置用于获得L图像的曝光条件和用于获得H图像的曝光条件。通常,以预定数量的行为一组,图像传感器的像素组交替属于用于获得L图像的像素组或者用于获得H图像的像素组。像素组的分配不局限于此。基于通过整体控制/计算单元106每隔1/30秒所生成的垂直同步信号,以30fps的摄像速率进行摄像操作本身。将在过去预定曝光时间之后通过图像传感器从每一行所输出的拍摄图像,临时存储在临时存储单元107中。在准备了一组L图像和H图像之后,整体控制/计算单元106将L和H图像合成在一起以生成HDR图像。
在用于L图像的行中,在用于H图像的行的曝光时间期间,进行两次曝光和读取操作以获得两个L图像。注意,用于L图像的两次曝光时间并非必需完全包括在用于H图像的一次曝光时间中,而是可以在允许用于L图像的两次曝光时间与用于H图像的一次曝光时间至少部分重叠的时刻,进行两次用于获得L图像的曝光。因此,在用于H图像的曝光时间期间,可能没有完成第二次曝光,并且可能在与用于H图像的曝光开始的时刻不同的时刻,开始第一次曝光。用于L图像的两次曝光时间可以具有不同长度,并且可以在用于H图像的一个曝光时间期间,在用于L图像的行中进行三次以上曝光,以获得三个以上的L图像。除生成HDR图像以外,还通过运动检测单元108使用这样所获得的多个L图像来检测画面的拍摄有运动被摄体的图像的区域。可以使用运动检测单元108的检测结果来例如在合成这些图像期间配准H和L图像。在生成HDR图像时,可以使用第一个L图像,可以使用第二个L图像,或者可以使用第一个和第二个L图像两者。当生成三个以上的L图像时,可以使用任意数量个L图像。
图6是示出根据第一实施例在摄像设备100中获得用于生成HDR图像的图像时,通过垂直驱动电路206所生成的信号的时序图。当信号TX和信号RS上升时,复位光电二极管202的电荷,并且开始曝光。在摄像控制单元105所设置的条件下,按照预定顺序,对光接收像素单元201顺次进行该操作。此后,在用于L图像的行中,在过去了预定曝光时间(第二曝光时间)之后,信号TX1和TX2顺次上升。结果,将光电二极管202的电荷读出至信号放大器204,并且通过水平驱动电路209输出,因此获得第一个L图像(第一低曝光图像)。此后,信号RX1和RX2顺次上升,并且复位用于L图像的行。此后,类似地,在过去了用于L图像的预定曝光时间(第三曝光时间,可以等于或者不同于第二曝光时间)之后,信号TX1和TX2顺次上升。结果,将光电二极管202的电荷读出至信号放大器204,并且通过水平驱动电路209输出,因此,获得第二个L 图像(第二低曝光图像)。此后,在过去了用于H图像的预定曝光时间(第一曝光时间)之后,信号TX3和TX4顺次上升,并且将光电二极管202的电荷读出至信号放大器204,并且通过水平驱动电路209输出,因此获得H图像。
接着参考图7,说明用于使用运动检测单元108比较两个L图像来检测被摄体的运动的方法。首先,运动检测单元108计算两个L图像之间的差,以判断在这两个L图像之间是否存在被摄体的运动。如下实现该计算:
Diff=Σ|L2(x,y)-L1(x,y)|   公式(1)
其中,LN(x,y)表示第N个L图像的坐标(x,y)处的像素值。因此,整个图像的差Diff是所有像素的差的和。
如果Diff小于阈值Th,则运动检测单元108判断为不存在被摄体的运动。如果Diff不小于阈值Th,则运动检测单元108判断为存在被摄体的运动。如果存在运动,则如图7所示,运动检测单元108通过计算基准图像与在水平和垂直方向上移位预定数量的像素(在本实施例中,在水平方向上移位α个像素,并且在垂直方向上移位β个像素)的图像之间的差,计算运动的方向。这里,基准图像是第二个L图像,并且图像A~H是通过移位第一个L图像所获得的图像。运动检测单元108将具有最小差的图像的方向V,指定为被摄体的运动的方向。这里,存在以A~H所表示的8个方向V。具有下面的关系:A=-H、B=-G、C=-F和D=-E。
可以将整个画面分成多个区域,可以对每一区域进行上述运动检测处理,并且可以针对每一区域判断是否存在运动及判断运动的方向,从而可以提高检测的精度。当获得三个以上的L图像时,运动检测单元108可以基于这三个以上的L图像进行运动检测。除L图像以外,运动检测单元108还可以使用H图像进行运动检测。
图8是示出第一实施例的运动检测处理和HDR图像生成处理的流程图。在步骤S801,摄像设备100的整体控制/计算单元106控制摄像控制单元105获 得一个H图像和两个L图像。在步骤S802,运动检测单元108比较在步骤S801所获得的两个L图像来检测被摄体的运动。在步骤S803,整体控制/计算单元106基于在步骤S802检测到的被摄体的运动,将H图像和在步骤S801所获得的两个L图像中的一个(或者两个)合成在一起以生成HDR图像。从而完成运动检测处理和HDR图像生成处理。
如上所述,在本实施例中,摄像设备100试图基于在使用图像传感器的预定像素组获得H图像的时刻使用其它预定像素组所获得的两个L图像,检测被摄体的运动。因此,在本实施例中,对于运动检测,使用这样所获得的两个L图像。
在本实施例中,H图像和L图像之间的曝光差,源于曝光时间的差。可以使用采用光量调整单元102或摄像控制单元105的放大单元的组合来产生该曝光差。
第二实施例
在第一实施例中,在同一帧内生成HDR图像。在这种情况下,获得H和L图像的时刻之间的差减小,因而可以减少或者防止在存在被摄体的运动时所发生的图像质量的下降。然而,由于从图像传感器的不同像素组获得H和L图像,因而出现下面的问题:对于具有高空间频率的被摄体,图像质量下降。因此,当拍摄具有小的运动的被摄体的图像时,如果使用相同像素组在连续定时获得H和L图像以生成HDR图像,则可以进一步减少或者防止图像质量的下降。因此,在第二实施例中,说明这样一种技术,该技术根据被摄体的运动的程度,改变生成HDR图像所要基于的图像。注意,在第二实施例中,摄像设备100具有与第一实施例的基本结构(参考图1)相同的基本结构等。这里将说明与第一实施例的不同。
图9是第二实施例中使用摄像设备100获得HDR图像的时序图。如第一实施例一样,在摄像单元103的图像传感器中,可以以两行为一组,交替设置 用于获得L图像的曝光条件和用于获得H图像的曝光条件。基于通过整体控制/计算单元106每1/60秒所生成的垂直同步信号,以60fps的摄像速率进行摄像操作本身。将在过去了预定曝光时间之后通过图像传感器从各行输出的拍摄图像,临时存储在临时存储单元107中。
在第二实施例中,与第一实施例不同,每当生成垂直同步信号时,都交换用于获得L图像的行和用于获得H图像的行。因此,在摄像设备100中,在获得了H图像之后,使用为了生成H图像而使用的像素组(第一像素组)来获得第三个L图像(第三低曝光图像)和第四个L图像。用于第三个L图像的曝光时间(第四曝光时间),可以与用于第一个、第二个和第四个L图像的曝光时间相同或者不同。
当获得了用于运动检测的预定数量个L图像时,运动检测单元108试图检测被摄体的运动。此后,基于运动检测单元108的检测结果,整体控制/计算单元106选择要与H图像合成的L图像。具体地,整体控制/计算单元106选择在获得H图像的相同垂直同步信号期间所获得的L图像(第一个或第二个L图像)、或者在下一垂直同步信号期间所获得的L图像(第三个或第四个L图像)。
图10是示出用于使用运动检测的结果来选择用于生成HDR图像的图像的处理的流程图。在步骤S1001,如图11所示,运动检测单元108将要进行运动检测的L图像(L-11和L-12)分成多个块。在步骤S1002,运动检测单元108将作为用于对具有运动的块进行计数的计数器的变量S初始化成0。在步骤S1003,运动检测单元108判断在第一块(例如,图11左上角的块)中是否存在运动。例如,可以基于第一实施例所述的公式(1)(注意,在这种情况下,Diff是仅与要处理的块有关的差,而不是整个L图像),进行步骤S1003的判断。如果步骤S1003的判断是肯定的,则在步骤S1004,运动检测单元108将变量S增大1。在步骤S1005,运动检测单元108判断是否处理了所有块。如果步骤S1005 的判断结果是否定的,则控制返回至步骤S1003,在步骤S1003,处理下一个块。换句话说,运动检测单元108以预定大小的块为单位,对进行运动检测的L图像(L-11和L-12)进行比较,来检测各块中的被摄体的运动。
在步骤S1006中,整体控制/计算单元106判断计数的结果(变量S)是否不小于预定阈值(Sth)。如果S≥Sth,则控制进入步骤S1007。否则(即,被检测到被摄体的运动的块的数量小于该阈值),则控制进入步骤S1008。
在步骤S1007,整体控制/计算单元106选择第一H图像(H-1)和在获得该H图像的同一垂直同步信号期间所获得的L图像(L-11),作为要合成在一起的图像。因此,如果S≥Sth(即,存在被摄体的大的运动),则进行帧内HDR图像生成处理。
另一方面,在步骤S1008,整体控制/计算单元106选择第一H图像(H-1)和在下一垂直同步信号期间所获得的L图像(L-21),作为要合成在一起的图像。因此,如果S<Sth(即,仅存在被摄体的小的运动或者没有运动),则进行帧间HDR图像生成处理。
注意,如第一实施例一样,在步骤S1007,可以选择L图像L-12,或者可以选择L图像L-11和L-12两者。这同样适用于步骤S1008。
如上所述,在本实施例中,摄像设备100根据被摄体的运动检测的结果,在帧内HDR图像生成处理和帧间HDR图像生成处理之间切换。结果,可以提高HDR图像的图像质量。注意,图10的选择处理仅用于示例。可选地,例如,当存在被摄体的任何可检测运动时,摄像设备100可以进行帧内HDR图像生成处理。
注意,摄像设备100以块为单位,判断是要进行帧内HDR图像生成处理还是要进行帧间HDR图像生成处理。在这种情况下,例如,如果在块中检测到了运动,则将H图像(H-1)的该块与第一个L图像(L-11)的相应块合成,并且如果在块中没有检测到运动,则将H图像(H-1)的该块与第三个L图像(L-21)的 相应块合成。
变形例
代替在帧内HDR图像生成处理和帧间HDR图像生成处理之间的切换,根据被摄体的运动检测的结果,可以改变要合成的L图像的比例。例如,如图12所示,摄像设备100可以通过计算四个L图像的加权平均值来将该四个L图像合成在一起,以生成用于合成的单个L图像(要合成的图像),并且可以将所获得的L图像与H图像合成在一起。L图像的加权系数(α、β、γ和θ)均是通过运动检测处理所获得的S(具有运动的块的数量)和V(运动的方向)的函数。例如,将该函数设计成使得α和β的值随着被摄体的运动的增大而增大。
注意,在该变形例中,摄像设备100不需将所有这四个L图像合成在一起。例如,可以根据第一个和第三个L图像(L-11和L-21)生成要合成的L图像。
第三实施例
在第一和第二实施例中,假定当进行帧内HDR图像生成处理时,可以将多个L图像中的任一个与H图像合成。然而,当存在被摄体的运动时,多个L图像相互不同,因此,HDR图像的图像质量根据L图像中的哪一个与H图像进行合成而改变。因此,在第三实施例中,说明下面的例子:当进行帧内HDR图像生成处理时,选择要合成的L图像,这样将提高HDR图像的图像质量。注意,在第三实施例中,摄像设备100具有与第一和第二实施例的基本结构(参考图1)相同的基本结构。将主要说明与第一和第二实施例的不同。
图13是第三实施例中,使用摄像设备100获得HDR图像的时序图。如第一实施例一样,摄像单元103的图像传感器可以以两行为一组,交替设置用于获得L图像的曝光条件和用于获得H图像的曝光条件。基于通过整体控制/计算单元106每1/60秒所生成的垂直同步信号,以60fps的摄像速率进行摄像操作本身。将在过去了预定曝光时间之后通过图像传感器从各行所输出的拍摄图像,临时存储在临时存储单元107中。
在本实施例中,假定在获得了一个H图像的时刻,获得了三个L图像(L-11、L-12和L-13)。通过在短于H图像的曝光时间的预定曝光时间(第五曝光时间)期间所进行的摄像,获得第三个L图像(第四低曝光图像)。当获得了用于运动检测的预定数量的L图像时,运动检测单元108试图检测被摄体的运动。具体地,运动检测单元108计算L图像L-11和L-12之间和L图像L-12和L-13之间的具有运动的块的数量S以及运动的方向V。
图14是根据第三实施例的使用运动检测的结果来选择要生成HDR图像所基于的图像的处理的流程图。在步骤S1401和S1402,运动检测单元108检测第一个L图像(L-11)和第二个L图像(L-12)之间的运动,并且计算具有运动的块的数量S12和该运动(图7的A~H中的任一个)的方向V12。此后,在步骤S1403和S1404,运动检测单元108检测第二个L图像(L-12)和第三个L图像(L-13)之间的运动,并且计算具有运动的块的数量S23和该运动(图7的A~H中的任一个)的方向V23。
在步骤S1405和S1406,整体控制/计算单元106判断S12和S23是否不小于预定阈值(Sth)。如果值S12和S23中至少一个小于Sth,则至少在L-11和L-12之间或者在L-12和L-13之间,不存在被摄体的运动。在这种情况下,控制进入步骤S1409,在步骤S1409,整体控制/计算单元106选择作为最接近这三个L图像的时间的中点的L-12,作为要合成的L图像。
如果S12和S23都不小于Sth,则被摄体在获得L图像的时间段期间持续移动。在这种情况下,整体控制/计算单元106基于L图像之间的运动的方向,选择用于HDR合成的L图像。具体地,在步骤S1407,整体控制/计算单元106判断V12=V23是否成立。如果V12=V23,则如图15A所示,被摄体正在恒定方向上移动。在这种情况下,控制进入步骤S1409,在步骤S1409,整体控制/计算单元106选择作为最接近这三个L图像的时间的中点的L-12,作为要合成的L图像。
如果V12=V23不成立(在V12≠V23的情况下),则在步骤S1408,整体控制/计算单元106判断V12=(-V23)是否成立。如果V12=(-V23)不成立(V12和V23不是相反方向),则被摄体的运动的方向不是恒定方向。在这种情况下,控制进入步骤S1409,在步骤S1409,整体控制/计算单元106选择作为最接近这三个L图像的时间的中点的L-12,作为要合成的L图像。
如果V12=(-V23),则如图15B所示,被摄体的运动的方向在中途反转。在这种情况下,在步骤S1410,整体控制/计算单元106判断S12<S23是否成立。如果S12<S23,则控制进入步骤S1411,在步骤S1411,整体控制/计算单元106将L-11设置为要合成的L图像。如果S12<S23不成立,则控制进入步骤S1412,在步骤S1412,整体控制/计算单元106选择L-13作为要合成的L图像。
注意,步骤S1405~S1410的条件分支仅是为了示例,并且可以在不同条件下选择L图像。例如,在步骤S1408,即使V12≠(-V23),那么当(V12=C或E或H)、并且(V23=A或D或F)(参考图7)时(即,沿X坐标的运动的方向相反时),控制可以进入步骤S1410。
如上所述,在本实施例中,摄像设备100在进行帧内模式HDR图像生成处理时,基于运动检测的结果来选择要合成的L图像。结果,可以提高HDR图像的图像质量。
注意,当使用在不同帧中所拍摄的L图像或者H图像作为要合成的图像时,也可应用本实施例。不仅可以基于L图像,而且还可以基于多个L图像和H图像的组合来进行运动检测。
其它实施例
本发明的实施例还可以通过如下的方法来实现,即,通过网络或者各种存储介质将执行上述实施例的功能的软件(程序)提供给系统或装置,该系统或装置的计算机或是中央处理单元(CPU)、微处理单元(MPU)读出并执行程序的方法。
尽管参考典型实施例说明了本发明,但是应该理解,本发明不局限于所公开的典型实施例。所附权利要求书的范围符合最宽的解释,以包含所有这类修改、等同结构和功能。

摄像设备及其控制方法.pdf_第1页
第1页 / 共25页
摄像设备及其控制方法.pdf_第2页
第2页 / 共25页
摄像设备及其控制方法.pdf_第3页
第3页 / 共25页
点击查看更多>>
资源描述

《摄像设备及其控制方法.pdf》由会员分享,可在线阅读,更多相关《摄像设备及其控制方法.pdf(25页珍藏版)》请在专利查询网上搜索。

1、(10)申请公布号 CN 104010128 A (43)申请公布日 2014.08.27 CN 104010128 A (21)申请号 201410058861.5 (22)申请日 2014.02.20 2013-031428 2013.02.20 JP H04N 5/232(2006.01) H04N 5/355(2011.01) H04N 5/14(2006.01) (71)申请人 佳能株式会社 地址 日本东京都大田区下丸子 3 丁目 30 番 2 号 (72)发明人 市川茂 (74)专利代理机构 北京魏启学律师事务所 11398 代理人 魏启学 (54) 发明名称 摄像设备及其控制方法。

2、 (57) 摘要 本发明提供一种摄像设备及其控制方法。摄 像控制单元在第一曝光时间期间, 使用摄像单元 的第一像素组进行摄像以获得高曝光图像。所述 摄像控制单元还在短于所述第一曝光时间的第二 曝光时间期间, 使用所述摄像单元的第二像素组 进行摄像以获得第一低曝光图像。所述摄像控制 单元还在短于所述第一曝光时间的第三曝光时间 期间, 使用所述第二像素组进行摄像以获得第二 低曝光图像。所述第二曝光时间和所述第三曝光 时间与所述第一曝光时间至少部分重叠。检测单 元将所述第一低曝光图像与所述第二低曝光图像 进行比较, 以检测所述被摄体的运动。 (30)优先权数据 (51)Int.Cl. 权利要求书 2。

3、 页 说明书 9 页 附图 13 页 (19)中华人民共和国国家知识产权局 (12)发明专利申请 权利要求书2页 说明书9页 附图13页 (10)申请公布号 CN 104010128 A CN 104010128 A 1/2 页 2 1. 一种摄像设备, 其包括 : 摄像单元, 用于拍摄被摄体的图像 ; 摄像控制单元, 用于在第一曝光时间期间使用所述摄像单元的第一像素组进行摄像以 获得高曝光图像, 在短于所述第一曝光时间的第二曝光时间期间使用所述摄像单元的第二 像素组进行摄像以获得第一低曝光图像, 并且在短于所述第一曝光时间的第三曝光时间期 间使用所述第二像素组进行摄像以获得第二低曝光图像, 。

4、其中, 所述第二曝光时间和所述 第三曝光时间与所述第一曝光时间至少部分重叠 ; 以及 检测单元, 用于将所述第一低曝光图像与所述第二低曝光图像进行比较, 以检测所述 被摄体的运动。 2. 根据权利要求 1 所述的摄像设备, 其中, 还包括 : 生成单元, 用于基于所述检测单元所检测到的所述被摄体的运动, 将所述高曝光图像 与所述第一低曝光图像和所述第二低曝光图像中的至少一个进行合成, 以生成高动态范围 图像, 即, HDR 图像。 3. 根据权利要求 2 所述的摄像设备, 其中, 所述摄像控制单元在获得所述高曝光图像之后, 在短于所述第一曝光时间的第四曝光 时间期间, 使用所述第一像素组进行摄。

5、像以获得第三低曝光图像, 以及 在所述检测单元没有检测到所述被摄体的运动的情况下, 所述生成单元将所述高曝光 图像与所述第三低曝光图像进行合成以生成 HDR 图像。 4. 根据权利要求 3 所述的摄像设备, 其中, 所述检测单元以预定大小的块为单位, 将所述第一低曝光图像与所述第二低曝光图像 进行比较, 以检测各块中所述被摄体的运动, 以及 在被检测到所述被摄体的运动的块的数量小于阈值的情况下, 所述生成单元将所述高 曝光图像与所述第三低曝光图像进行合成以生成 HDR 图像。 5. 根据权利要求 2 所述的摄像设备, 其中, 所述摄像控制单元在获得所述高曝光图像之后, 在短于所述第一曝光时间的。

6、第四曝光 时间期间, 使用所述第一像素组进行摄像以获得第三低曝光图像, 以及 所述生成单元基于所述检测单元所检测到的所述被摄体的运动, 计算所述第一低曝光 图像、 所述第二低曝光图像和所述第三低曝光图像的加权平均值以获得合成图像, 并且将 所述高曝光图像与所述合成图像进行合成以生成 HDR 图像。 6. 根据权利要求 2 所述的摄像设备, 其中, 所述摄像控制单元在获得所述第一低曝光图像和所述第二低曝光图像之后, 在短于所 述第一曝光时间的第五曝光时间期间, 使用所述第二像素组进行摄像以获得第四低曝光图 像, 所述检测单元将所述第二低曝光图像与所述第四低曝光图像进行比较, 以检测所述被 摄体的。

7、运动, 以及 所述生成单元基于所述检测单元的检测的结果, 选择所述第一低曝光图像、 所述第二 低曝光图像和所述第四低曝光图像中的一个, 并且将所选择的低曝光图像与所述高曝光图 像进行合成以生成 HDR 图像。 7. 根据权利要求 1 6 中任一项所述的摄像设备, 其中, 权 利 要 求 书 CN 104010128 A 2 2/2 页 3 所述摄像单元的像素以预定数量的行为一组, 交替属于所述第一像素组或所述第二像 素组。 8. 根据权利要求 1 所述的摄像设备, 其中, 所述第二曝光时间等于所述第三曝光时间。 9. 一种用于摄像设备的控制方法, 其中, 所述摄像设备包括用于拍摄被摄体的图像的。

8、 摄像单元, 所述控制方法包括以下步骤 : 摄像控制步骤, 用于在第一曝光时间期间使用所述摄像单元的第一像素组进行摄像以 获得高曝光图像, 在短于所述第一曝光时间的第二曝光时间期间使用所述摄像单元的第二 像素组进行摄像以获得第一低曝光图像, 并且在短于所述第一曝光时间的第三曝光时间期 间使用所述第二像素组进行摄像以获得第二低曝光图像, 其中, 所述第二曝光时间和所述 第三曝光时间与所述第一曝光时间至少部分重叠 ; 以及 检测步骤, 用于将所述第一低曝光图像与所述第二低曝光图像进行比较, 以检测所述 被摄体的运动。 权 利 要 求 书 CN 104010128 A 3 1/9 页 4 摄像设备及。

9、其控制方法 技术领域 0001 本发明涉及一种摄像设备和用于控制摄像设备的方法。 背景技术 0002 众所周知, 用来拍摄静止图像或运动图像所使用的、 包括 CCD 或 CMOS 图像传感器 的固态图像传感器, 具有通常窄于人眼的动态范围 ( 可以区分色阶的最小亮度和最大亮度 的比 )。因此, 出现的问题是, 难以在照片上忠实地再现人眼实际看到的色阶。为了解决该 问题, 已知这样一种技术, 该技术用于将多个不同曝光的图像(过曝光图像(即, 亮图像, 以 下称为 “H 图像” )、 正确曝光图像 ( 以下称为 “M 图像” )、 曝光不足图像 ( 即, 暗图像, 以下称 为 “L 图像” ) 等。

10、 ) 合成在一起, 以获得具有比标准摄像更宽的动态范围 ( 以下称为 “HDR” ) 的图像。日本特开平 6-141229 说明了一个 HDR 技术的例子。 0003 根据传统 HDR 技术, 在开始拍摄之后, 顺次拍摄多个不同曝光的图像 ( 例如, H 图 像、 M 图像和 L 图像, 即, 总共三个图像 )。此后, 将这些图像合成在一起, 从而使得可以通过 H 和 L 图像之间曝光的差来实现 HDR。然而, 在这类 HDR 技术中, 在不同时刻拍摄要合成的 图像, 因此, 如果被摄体正在移动, 则在图像合成时出现问题。 0004 为了解决这一问题, 已知这样一种技术, 该技术用于将画面分成。

11、多个区域, 并且 在基于区域而改变曝光的情况下进行摄像, 以获得各区域的不同曝光的图像, 从而减少 获得要合成的多个图像的时刻之间的差 ( 参考日本特开 2011-244309)。根据日本特开 2011-244309, 可以以行为单位来控制图像传感器的曝光时间, 从而使得根据过曝光行生成 亮 H 图像, 并且根据曝光不足行生成暗 L 图像。可以并行曝光要过曝光的行和要曝光不足 的行, 因此, 减少获得 H 和 L 图像的时刻之间的差。 0005 当根据日本特开 2011-244309 的技术生成 L 和 H 图像时, 由于 L 图像的曝光时间 短于 H 图像的曝光时间, 因而在生成一个 H 图。

12、像时, 可以生成两个以上的 L 图像。( 严格地 说, 如果 L 图像的曝光时间比 H 图像的曝光时间的一半长, 则在完成 H 图像的曝光时, 未完 成第二个 L 图像的曝光。然而, 即使在这种情况下, 在完成 H 图像的曝光之后不久, 完成第 二个 L 图像的曝光。因此, 大体上说, 在生成一个 H 图像时, 可以生成两个以上的 L 图像。) 在日本特开 2011-244309 中, 例如, 利用在生成一个 H 图像时所生成的两个以上的 L 图像, 从而使得将一个 H 图像和两个以上的 L 图像合成在一起。 0006 顺便提及, 在不同时刻获得第一个和第二个 L 图像, 因此, 在第一个和第。

13、二个 L 图 像之间可能存在被摄体的运动。然而, 目前仍未提出一种考虑到这一点的利用两个以上的 L 图像的方案。 发明内容 0007 考虑到上述情况, 做出本发明。 本发明提供一种新的技术, 该技术利用在使用图像 传感器的预定像素组获得高曝光图像的时刻、 使用其它预定像素组所获得的两个低曝光图 像。这里所使用的术语 “高曝光图像” 和 “低曝光图像” , 仅意味着相对曝光度。因此, 高曝 说 明 书 CN 104010128 A 4 2/9 页 5 光图像并非意味着过曝光, 而低曝光图像也并非意味着曝光不足。 0008 根据本发明的一个方面, 提供一种摄像设备, 其包括 : 摄像单元, 用于拍。

14、摄被摄体 的图像 ; 摄像控制单元, 用于在第一曝光时间期间使用所述摄像单元的第一像素组进行摄 像以获得高曝光图像, 在短于所述第一曝光时间的第二曝光时间期间使用所述摄像单元的 第二像素组进行摄像以获得第一低曝光图像, 并且在短于所述第一曝光时间的第三曝光时 间期间使用所述第二像素组进行摄像以获得第二低曝光图像, 其中, 所述第二曝光时间和 所述第三曝光时间与所述第一曝光时间至少部分重叠 ; 以及检测单元, 用于将所述第一低 曝光图像与所述第二低曝光图像进行比较, 以检测所述被摄体的运动。 0009 根据本发明的另一方面, 提供一种用于摄像设备的控制方法, 其中, 所述摄像设备 包括用于拍摄被。

15、摄体的图像的摄像单元, 所述控制方法包括以下步骤 : 摄像控制步骤, 用于 在第一曝光时间期间使用所述摄像单元的第一像素组进行摄像以获得高曝光图像, 在短于 所述第一曝光时间的第二曝光时间期间使用所述摄像单元的第二像素组进行摄像以获得 第一低曝光图像, 并且在短于所述第一曝光时间的第三曝光时间期间使用所述第二像素组 进行摄像以获得第二低曝光图像, 其中, 所述第二曝光时间和所述第三曝光时间与所述第 一曝光时间至少部分重叠 ; 以及检测步骤, 用于将所述第一低曝光图像与所述第二低曝光 图像进行比较, 以检测所述被摄体的运动。 0010 通过以下参考附图对典型实施例的说明, 本发明的其它特征将显而。

16、易见。 附图说明 0011 图 1 是示出根据第一实施例的摄像设备 100 的结构的框图。 0012 图 2 是示出摄像单元 103 中所包括的图像传感器的结构的图。 0013 图 3 是使用摄像设备 100 获得正常图像的时序图。 0014 图 4 是示出在使用摄像设备 100 获得正常图像时, 通过垂直驱动电路 206 所生成 的信号的时序图。 0015 图 5 是根据第一实施例使用摄像设备 100 获得 HDR 图像的时序图。 0016 图 6 是示出根据第一实施例在使用摄像设备 100 获得用于生成 HDR 图像的图像时 从垂直驱动电路 206 所生成的信号的时序图。 0017 图 7。

17、 是示出用于使用运动检测单元 108 基于两个 L 图像检测被摄体的运动的示例 性方法的图。 0018 图 8 是示出根据第一实施例的运动检测处理和 HDR 图像生成处理的流程图。 0019 图 9 是根据第二实施例的使用摄像设备 100 获得 HDR 图像的时序图。 0020 图 10 是示出根据第二实施例的基于运动检测的结果选择用于生成 HDR 图像的图 像的处理的流程图。 0021 图 11 是示出如何将要进行运动检测的 L 图像分成多个块的图。 0022 图 12 是用于说明第二实施例的变形例的图。 0023 图 13 是根据第三实施例, 使用摄像设备 100 获得 HDR 图像的时序。

18、图。 0024 图 14 是示出根据第三实施例的基于运动检测的结果选择用于生成 HDR 图像的图 像的处理的流程图。 0025 图 15A 和 15B 是示出第三实施例的被摄体的运动方向的变化的图。 说 明 书 CN 104010128 A 5 3/9 页 6 具体实施方式 0026 现参考附图说明本发明的实施例。应该注意, 通过权利要求书来限定本发明的技 术范围, 并且不局限于下述实施例中的任一个。另外, 对于实现本发明, 并非必需这些实施 例所述的特征的所有组合。 0027 第一实施例 0028 图 1 是示出根据第一实施例的摄像设备 100 的结构的框图。摄像设备 100 是例如 数字照。

19、相机。镜头单元 101 使得来自被摄体的光会聚至摄像单元 103。镜头单元 101 包括 焦距改变单元、 遮挡入射光的遮光单元等。光量调整单元 102 被设置在镜头单元 101 和摄 像单元 103 之间。光量调整单元 102 包括例如用于插入光衰减滤波器的机构和光圈机构。 摄像单元 103 包括将穿过镜头单元 101 和光量调整单元 102 的入射光转换成模拟电信号的 像素单元、 将模拟电信号转换成数字信号的 A/D 转换电路等。 0029 信号处理单元 104 生成用于从摄像单元 103 所输入的像素信号的校正参数, 并且 对像素信号进行必要的图像信号校正处理。摄像控制单元 105 基于来。

20、自整体控制 / 计算单 元106的输入信号, 生成摄像单元103、 信号处理单元104等所需的定时信号、 用于设置用于 放大视频信号的增益的信号、 用于设置曝光时间的信号和用于其它控制的信号。 0030 整体控制 / 计算单元 106 根据摄像设备 100 的操作来进行处理和计算。整体控制 / 计算单元 106 包括临时存储来自信号处理单元 104 等的信号的临时存储单元 107、 基于来 自摄像单元 103 的信号而检测画面上的运动被摄体的运动检测单元 108、 以及判断曝光条 件的曝光计算单元 109。基于曝光计算单元 109 的计算结果, 整体控制 / 计算单元 106 使用 光量调整单。

21、元 102 调整光的量, 或者使用摄像控制单元 105 调整曝光时间或用于放大视频 信号的增益。 0031 在本实施例中, 信号处理单元 104 与整体控制 / 计算单元 106 分开。可选地, 可以 将信号处理单元 104 包括在整体控制 / 计算单元 106 或摄像单元 103 中。可以将摄像控制 单元 105 包括在摄像单元 103 中。 0032 操作单元 110 包括诸如按钮、 拨盘等的人机接口。用户使用操作单元 110 向摄像 设备 100 输入操作命令。记录单元 111 将由整体控制 / 计算单元 106 所生成的图像数据记 录至记录介质。显示单元 112 显示由整体控制 / 计。

22、算单元 106 基于来自信号处理单元 104 的信号所生成的图像数据、 与通过操作单元 110 所输入的命令相对应的图标等。 0033 接着, 图2示出摄像单元103中所包括的图像传感器的结构。 光接收像素单元201 接收来自镜头单元 101 的光, 对入射至其表面的光进行光电转换, 并且输出所获得的电信 号。作为一个单位 ( 像素 ), 光接收像素单元 201 包括光电二极管 202、 传输晶体管 203、 信 号放大器 204 和复位晶体管 205。摄像单元 103 包括二维配置的多个光接收像素单元 ( 像 素 )201。 0034 基于来自图像传感器中所包括的垂直驱动电路 206 的信号。

23、, 操作传输晶体管 203 和复位晶体管 205。这里, 垂直驱动电路 206 包括移位寄存器、 驱动各像素的信号生成电路 等。 由于通过定时信号(TX1TX4、 RS1RS4等)控制传输晶体管203和复位晶体管205, 因而可以通过复位或者读取光电二极管 202 的电荷来控制曝光时间。 0035 水平驱动电路209包括移位寄存器(未示出)、 列放大器电路和A/D转换电路210、 说 明 书 CN 104010128 A 6 4/9 页 7 信号输出选择开关 211、 输出电路 ( 未示出 ) 等。这里, 通过基于来自摄像控制单元 105 的 信号而改变列放大器电路和 A/D 转换电路 210。

24、 的设置, 可以放大从像素所读取的信号。 0036 接着说明用于使用摄像设备 100 获得正常图像的处理。图 3 是使用摄像设备 100 获得正常图像的时序图。基于由整体控制 / 计算单元 106 或摄像控制单元 105 所生成的垂 直同步信号, 进行曝光和信号读取。 0037 图 4 是示出在使用摄像设备 100 获得正常图像时, 由垂直驱动电路 206 所生成的 信号的时序图。当信号 TX 和信号 RS 上升时, 复位光电二极管 202 的电荷, 并且开始曝光。 在摄像控制单元105所设置的条件下, 按照预定顺序, 对光接收像素单元201顺次进行该操 作。此后, 在过去预定曝光时间之后, 。

25、信号 TX 再次上升, 并且将光电二极管 202 的电荷读出 至信号放大器204。 基于来自信号放大器204的信号来生成视频信号, 并且通过水平驱动电 路 209 输出视频信号。在摄像控制单元 105 所设置的条件下, 也进行该操作。 0038 本实施例的摄像设备 100 中所包括的图像传感器是 CMOS 类型的。因此, 可以设置 垂直驱动电路 206 中所包括的移位寄存器, 以确定将按照什么顺序来驱动传输晶体管 203 的哪些行。另外, 可以重复选择同一行来读取信号。可以设置水平驱动电路 209 中所包括 的移位寄存器, 以确定要在哪一列操作信号输出选择开关 211 来读取信号, 即, 要选。

26、择并输 出同一行中的信号中的哪一个。因此, 可以确定要按照什么顺序读取像素阵列中的哪些像 素。使得读取信号在信号处理单元 104 中经过校正处理。此后, 整体控制 / 计算单元 106 生成最终图像。 0039 接着说明用于使用摄像设备 100 检测被摄体的运动的处理。本实施例的运动检测 处理利用在使用图像传感器的预定像素组 ( 第一像素组 ) 获得高曝光图像 (H 图像 ) 的时 刻、 使用其它预定像素组 ( 第二像素组 ) 所获得的两个低曝光图像 (L 图像 )。这里所使用 的术语 “H 图像” 和 “L 图像” , 仅意为相对曝光度。因此, H 图像并非意为过曝光, 并且 L 图 像并非。

27、意为曝光不足。例如, H 图像可以是正确曝光图像。 0040 这里假定基于运动检测的结果将高曝光图像和低曝光图像合成在一起来生成 HDR 图像, 来说明用于生成高动态范围 (HDR) 图像的情况下的运动检测处理。然而, 对于本实 施例的运动检测处理, HDR 图像的生成并非是必要的。在运动检测处理之后, 可以无需生成 HDR 图像, 并且除用于生成 HDR 图像的处理以外, 运动检测结果还可以应用于任何目的。例 如, 摄像设备 100 可以拍摄正确曝光图像, 并且作为 H 图像将其记录至记录介质 111, 从两 个 L 图像检测被摄体的运动, 并且将运动检测结果记录至 H 图像的头。可以在以后。

28、, 例如, 在进行图像校正处理时等, 使用这样记录的运动检测结果。 0041 图 5 是在第一实施例中, 使用摄像设备 100 获得 HDR 图像的时序图。尽管在图 5 中, 假定获得 30fps 的运动图像, 但是在获得静止图像而不是运动图像时, 也可以应用本实 施例。即使在获得运动图像时, 帧频也不局限于 30fps。 0042 在本实施例中, 对于摄像单元 103 的图像传感器, 可以以两行为一组交替设置用 于获得 L 图像的曝光条件和用于获得 H 图像的曝光条件。通常, 以预定数量的行为一组, 图 像传感器的像素组交替属于用于获得 L 图像的像素组或者用于获得 H 图像的像素组。像素 。

29、组的分配不局限于此。基于通过整体控制 / 计算单元 106 每隔 1/30 秒所生成的垂直同步 信号, 以 30fps 的摄像速率进行摄像操作本身。将在过去预定曝光时间之后通过图像传感 器从每一行所输出的拍摄图像, 临时存储在临时存储单元 107 中。在准备了一组 L 图像和 说 明 书 CN 104010128 A 7 5/9 页 8 H 图像之后, 整体控制 / 计算单元 106 将 L 和 H 图像合成在一起以生成 HDR 图像。 0043 在用于L图像的行中, 在用于H图像的行的曝光时间期间, 进行两次曝光和读取操 作以获得两个L图像。 注意, 用于L图像的两次曝光时间并非必需完全包括。

30、在用于H图像的 一次曝光时间中, 而是可以在允许用于 L 图像的两次曝光时间与用于 H 图像的一次曝光时 间至少部分重叠的时刻, 进行两次用于获得 L 图像的曝光。因此, 在用于 H 图像的曝光时间 期间, 可能没有完成第二次曝光, 并且可能在与用于 H 图像的曝光开始的时刻不同的时刻, 开始第一次曝光。用于 L 图像的两次曝光时间可以具有不同长度, 并且可以在用于 H 图像 的一个曝光时间期间, 在用于 L 图像的行中进行三次以上曝光, 以获得三个以上的 L 图像。 除生成 HDR 图像以外, 还通过运动检测单元 108 使用这样所获得的多个 L 图像来检测画面 的拍摄有运动被摄体的图像的区。

31、域。可以使用运动检测单元 108 的检测结果来例如在合成 这些图像期间配准 H 和 L 图像。在生成 HDR 图像时, 可以使用第一个 L 图像, 可以使用第二 个 L 图像, 或者可以使用第一个和第二个 L 图像两者。当生成三个以上的 L 图像时, 可以使 用任意数量个 L 图像。 0044 图 6 是示出根据第一实施例在摄像设备 100 中获得用于生成 HDR 图像的图像时, 通过垂直驱动电路 206 所生成的信号的时序图。当信号 TX 和信号 RS 上升时, 复位光电二 极管 202 的电荷, 并且开始曝光。在摄像控制单元 105 所设置的条件下, 按照预定顺序, 对 光接收像素单元 2。

32、01 顺次进行该操作。此后, 在用于 L 图像的行中, 在过去了预定曝光时间 ( 第二曝光时间 ) 之后, 信号 TX1 和 TX2 顺次上升。结果, 将光电二极管 202 的电荷读出至 信号放大器 204, 并且通过水平驱动电路 209 输出, 因此获得第一个 L 图像 ( 第一低曝光图 像 )。此后, 信号 RX1 和 RX2 顺次上升, 并且复位用于 L 图像的行。此后, 类似地, 在过去了 用于 L 图像的预定曝光时间 ( 第三曝光时间, 可以等于或者不同于第二曝光时间 ) 之后, 信 号 TX1 和 TX2 顺次上升。结果, 将光电二极管 202 的电荷读出至信号放大器 204, 并。

33、且通过 水平驱动电路 209 输出, 因此, 获得第二个 L 图像 ( 第二低曝光图像 )。此后, 在过去了用于 H 图像的预定曝光时间 ( 第一曝光时间 ) 之后, 信号 TX3 和 TX4 顺次上升, 并且将光电二极 管 202 的电荷读出至信号放大器 204, 并且通过水平驱动电路 209 输出, 因此获得 H 图像。 0045 接着参考图7, 说明用于使用运动检测单元108比较两个L图像来检测被摄体的运 动的方法。首先, 运动检测单元 108 计算两个 L 图像之间的差, 以判断在这两个 L 图像之间 是否存在被摄体的运动。如下实现该计算 : 0046 Diff=|L2(x, y)-L。

34、1(x, y)| 公式 (1) 0047 其中, LN(x, y) 表示第 N 个 L 图像的坐标 (x, y) 处的像素值。因此, 整个图像的差 Diff 是所有像素的差的和。 0048 如果 Diff 小于阈值 Th, 则运动检测单元 108 判断为不存在被摄体的运动。如果 Diff 不小于阈值 Th, 则运动检测单元 108 判断为存在被摄体的运动。如果存在运动, 则如 图 7 所示, 运动检测单元 108 通过计算基准图像与在水平和垂直方向上移位预定数量的像 素 ( 在本实施例中, 在水平方向上移位 个像素, 并且在垂直方向上移位 个像素 ) 的图 像之间的差, 计算运动的方向。这里,。

35、 基准图像是第二个 L 图像, 并且图像 A H 是通过移 位第一个 L 图像所获得的图像。运动检测单元 108 将具有最小差的图像的方向 V, 指定为 被摄体的运动的方向。这里, 存在以 A H 所表示的 8 个方向 V。具有下面的关系 : A=-H、 B=-G、 C=-F 和 D=-E。 说 明 书 CN 104010128 A 8 6/9 页 9 0049 可以将整个画面分成多个区域, 可以对每一区域进行上述运动检测处理, 并且可 以针对每一区域判断是否存在运动及判断运动的方向, 从而可以提高检测的精度。当获得 三个以上的 L 图像时, 运动检测单元 108 可以基于这三个以上的 L 图。

36、像进行运动检测。除 L 图像以外, 运动检测单元 108 还可以使用 H 图像进行运动检测。 0050 图 8 是示出第一实施例的运动检测处理和 HDR 图像生成处理的流程图。在步骤 S801, 摄像设备 100 的整体控制 / 计算单元 106 控制摄像控制单元 105 获得一个 H 图像和 两个 L 图像。在步骤 S802, 运动检测单元 108 比较在步骤 S801 所获得的两个 L 图像来检测 被摄体的运动。在步骤 S803, 整体控制 / 计算单元 106 基于在步骤 S802 检测到的被摄体的 运动, 将 H 图像和在步骤 S801 所获得的两个 L 图像中的一个 ( 或者两个 )。

37、 合成在一起以生 成 HDR 图像。从而完成运动检测处理和 HDR 图像生成处理。 0051 如上所述, 在本实施例中, 摄像设备 100 试图基于在使用图像传感器的预定像素 组获得 H 图像的时刻使用其它预定像素组所获得的两个 L 图像, 检测被摄体的运动。因此, 在本实施例中, 对于运动检测, 使用这样所获得的两个 L 图像。 0052 在本实施例中, H 图像和 L 图像之间的曝光差, 源于曝光时间的差。可以使用采用 光量调整单元 102 或摄像控制单元 105 的放大单元的组合来产生该曝光差。 0053 第二实施例 0054 在第一实施例中, 在同一帧内生成 HDR 图像。在这种情况下。

38、, 获得 H 和 L 图像的 时刻之间的差减小, 因而可以减少或者防止在存在被摄体的运动时所发生的图像质量的下 降。然而, 由于从图像传感器的不同像素组获得 H 和 L 图像, 因而出现下面的问题 : 对于具 有高空间频率的被摄体, 图像质量下降。因此, 当拍摄具有小的运动的被摄体的图像时, 如 果使用相同像素组在连续定时获得 H 和 L 图像以生成 HDR 图像, 则可以进一步减少或者防 止图像质量的下降。因此, 在第二实施例中, 说明这样一种技术, 该技术根据被摄体的运动 的程度, 改变生成 HDR 图像所要基于的图像。注意, 在第二实施例中, 摄像设备 100 具有与 第一实施例的基本结。

39、构 ( 参考图 1) 相同的基本结构等。这里将说明与第一实施例的不同。 0055 图 9 是第二实施例中使用摄像设备 100 获得 HDR 图像的时序图。如第一实施例一 样, 在摄像单元 103 的图像传感器中, 可以以两行为一组, 交替设置用于获得 L 图像的曝光 条件和用于获得 H 图像的曝光条件。基于通过整体控制 / 计算单元 106 每 1/60 秒所生成 的垂直同步信号, 以 60fps 的摄像速率进行摄像操作本身。将在过去了预定曝光时间之后 通过图像传感器从各行输出的拍摄图像, 临时存储在临时存储单元 107 中。 0056 在第二实施例中, 与第一实施例不同, 每当生成垂直同步信。

40、号时, 都交换用于获得 L 图像的行和用于获得 H 图像的行。因此, 在摄像设备 100 中, 在获得了 H 图像之后, 使用为 了生成 H 图像而使用的像素组 ( 第一像素组 ) 来获得第三个 L 图像 ( 第三低曝光图像 ) 和 第四个 L 图像。用于第三个 L 图像的曝光时间 ( 第四曝光时间 ), 可以与用于第一个、 第二 个和第四个 L 图像的曝光时间相同或者不同。 0057 当获得了用于运动检测的预定数量个 L 图像时, 运动检测单元 108 试图检测被摄 体的运动。此后, 基于运动检测单元 108 的检测结果, 整体控制 / 计算单元 106 选择要与 H 图像合成的 L 图像。。

41、具体地, 整体控制 / 计算单元 106 选择在获得 H 图像的相同垂直同步 信号期间所获得的L图像(第一个或第二个L图像)、 或者在下一垂直同步信号期间所获得 的 L 图像 ( 第三个或第四个 L 图像 )。 说 明 书 CN 104010128 A 9 7/9 页 10 0058 图 10 是示出用于使用运动检测的结果来选择用于生成 HDR 图像的图像的处理的 流程图。在步骤 S1001, 如图 11 所示, 运动检测单元 108 将要进行运动检测的 L 图像 (L-11 和L-12)分成多个块。 在步骤S1002, 运动检测单元108将作为用于对具有运动的块进行计 数的计数器的变量 S 。

42、初始化成 0。在步骤 S1003, 运动检测单元 108 判断在第一块 ( 例如, 图 11 左上角的块 ) 中是否存在运动。例如, 可以基于第一实施例所述的公式 (1)( 注意, 在 这种情况下, Diff 是仅与要处理的块有关的差, 而不是整个 L 图像 ), 进行步骤 S1003 的判 断。如果步骤 S1003 的判断是肯定的, 则在步骤 S1004, 运动检测单元 108 将变量 S 增大 1。 在步骤 S1005, 运动检测单元 108 判断是否处理了所有块。如果步骤 S1005 的判断结果是 否定的, 则控制返回至步骤 S1003, 在步骤 S1003, 处理下一个块。换句话说, 。

43、运动检测单元 108 以预定大小的块为单位, 对进行运动检测的 L 图像 (L-11 和 L-12) 进行比较, 来检测各 块中的被摄体的运动。 0059 在步骤 S1006 中, 整体控制 / 计算单元 106 判断计数的结果 ( 变量 S) 是否不小于 预定阈值 (Sth)。如果 S Sth, 则控制进入步骤 S1007。否则 ( 即, 被检测到被摄体的运动 的块的数量小于该阈值 ), 则控制进入步骤 S1008。 0060 在步骤 S1007, 整体控制 / 计算单元 106 选择第一 H 图像 (H-1) 和在获得该 H 图像 的同一垂直同步信号期间所获得的 L 图像 (L-11), 。

44、作为要合成在一起的图像。因此, 如果 S Sth( 即, 存在被摄体的大的运动 ), 则进行帧内 HDR 图像生成处理。 0061 另一方面, 在步骤 S1008, 整体控制 / 计算单元 106 选择第一 H 图像 (H-1) 和在 下一垂直同步信号期间所获得的 L 图像 (L-21), 作为要合成在一起的图像。因此, 如果 SSth( 即, 仅存在被摄体的小的运动或者没有运动 ), 则进行帧间 HDR 图像生成处理。 0062 注意, 如第一实施例一样, 在步骤 S1007, 可以选择 L 图像 L-12, 或者可以选择 L 图 像 L-11 和 L-12 两者。这同样适用于步骤 S100。

45、8。 0063 如上所述, 在本实施例中, 摄像设备 100 根据被摄体的运动检测的结果, 在帧内 HDR 图像生成处理和帧间 HDR 图像生成处理之间切换。结果, 可以提高 HDR 图像的图像质 量。 注意, 图10的选择处理仅用于示例。 可选地, 例如, 当存在被摄体的任何可检测运动时, 摄像设备 100 可以进行帧内 HDR 图像生成处理。 0064 注意, 摄像设备100以块为单位, 判断是要进行帧内HDR图像生成处理还是要进行 帧间HDR图像生成处理。 在这种情况下, 例如, 如果在块中检测到了运动, 则将H图像(H-1) 的该块与第一个 L 图像 (L-11) 的相应块合成, 并且。

46、如果在块中没有检测到运动, 则将 H 图 像 (H-1) 的该块与第三个 L 图像 (L-21) 的相应块合成。 0065 变形例 0066 代替在帧内 HDR 图像生成处理和帧间 HDR 图像生成处理之间的切换, 根据被摄体 的运动检测的结果, 可以改变要合成的 L 图像的比例。例如, 如图 12 所示, 摄像设备 100 可 以通过计算四个 L 图像的加权平均值来将该四个 L 图像合成在一起, 以生成用于合成的单 个 L 图像 ( 要合成的图像 ), 并且可以将所获得的 L 图像与 H 图像合成在一起。L 图像的 加权系数 (、 、 和 ) 均是通过运动检测处理所获得的 S( 具有运动的块。

47、的数量 ) 和 V( 运动的方向 ) 的函数。例如, 将该函数设计成使得 和 的值随着被摄体的运动的增 大而增大。 0067 注意, 在该变形例中, 摄像设备 100 不需将所有这四个 L 图像合成在一起。例如, 说 明 书 CN 104010128 A 10 8/9 页 11 可以根据第一个和第三个 L 图像 (L-11 和 L-21) 生成要合成的 L 图像。 0068 第三实施例 0069 在第一和第二实施例中, 假定当进行帧内HDR图像生成处理时, 可以将多个L图像 中的任一个与 H 图像合成。然而, 当存在被摄体的运动时, 多个 L 图像相互不同, 因此, HDR 图像的图像质量根据。

48、 L 图像中的哪一个与 H 图像进行合成而改变。因此, 在第三实施例中, 说明下面的例子 : 当进行帧内 HDR 图像生成处理时, 选择要合成的 L 图像, 这样将提高 HDR 图像的图像质量。注意, 在第三实施例中, 摄像设备 100 具有与第一和第二实施例的基本结 构 ( 参考图 1) 相同的基本结构。将主要说明与第一和第二实施例的不同。 0070 图 13 是第三实施例中, 使用摄像设备 100 获得 HDR 图像的时序图。如第一实施例 一样, 摄像单元103的图像传感器可以以两行为一组, 交替设置用于获得L图像的曝光条件 和用于获得 H 图像的曝光条件。基于通过整体控制 / 计算单元 。

49、106 每 1/60 秒所生成的垂 直同步信号, 以 60fps 的摄像速率进行摄像操作本身。将在过去了预定曝光时间之后通过 图像传感器从各行所输出的拍摄图像, 临时存储在临时存储单元 107 中。 0071 在本实施例中, 假定在获得了一个 H 图像的时刻, 获得了三个图像 (L-11、 L-12 和 L-13)。通过在短于 H 图像的曝光时间的预定曝光时间 ( 第五曝光时间 ) 期间所进行的 摄像, 获得第三个 L 图像 ( 第四低曝光图像 )。当获得了用于运动检测的预定数量的 L 图像 时, 运动检测单元 108 试图检测被摄体的运动。具体地, 运动检测单元 108 计算 L 图像 L-11 和 L-12 之间和 L 图像 L-12 和 L-13 之间的具有运动的块的数量 S 以及运动的方向 V。 0072 图 14 是根据第三实施例的使用运动检测的结果来选择要生成 HDR 图像所基于的 图像的处理的流程图。 在步骤S1401和S1402。

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 电学 > 电通信技术


copyright@ 2017-2020 zhuanlichaxun.net网站版权所有
经营许可证编号:粤ICP备2021068784号-1