本发明涉及交互式视频。更具体地,本发明涉及用于提供交互式 视频的设备和方法。
交互式视频是公知的,特别是用于本地生成视频序列并且允许某 些用户交互作用的电子游戏。然而,广播交互式视频也受到了越来 越多的关注。在几个国家中,现在广播使观众能够与远程生成的视 频序列进行少量交互的电视节目。
在美国专利申请US 2003/0013526中公开了交互式广播视频系统 的例子,其中中央控制建立了一个虚拟环境,在所述环境中观众参 与由所述观众控制或设计的角色。结果,使所选择的用户能够控制 在广播电视节目上所出现的角色。然而,不存在来自视频序列的反 馈,并且结果在所控制的角色和在视频序列中所示出的其余虚拟环 境之间不存在交互作用。
美国专利US5,684,715公开了一种交互式视频系统,用于使操 作者能够选择在视频序列中所移动的对象。当选择时,可以改变交 互程序的流程或者可以出现文本消息。为此,与视频序列中的对象 同步的视频对象信息被采用。在此现有技术的视频系统中,用户交 互作用限于流程的改变和所显示的消息,所述用户并不控制所选择 的对象。
本发明的目的是克服现有技术的这些及其它问题并且提供一种 用于交互式视频的设备和方法,特别是广播交互式视频,用于允许 更多用户交互。
据此,本发明提供了用于交互式视频的设备,所述设备包括:
·视频接受装置,用于接收视频图像信息,
·角色产生装置,用于产生至少一个用户可控制的角色,
·检测装置,用于检测角色和与所接收的视频图像信息相关联的 视频对象的任何一致性,和
·触发装置,用于响应于任何所检测的一致性来触发事件。
通过使用视频图像信息和与所述视频图像信息相关联的视频对 象信息,可以识别在视频信息中的单个对象并且确定它们各自的位 置。视频对象被包括在视频对象信息中并且用于定义在视频图像中 对象的(动态或静态)位置和/或轮廓,并且所述视频对象典型情况 下根据视频图像信息来产生并且与所述视频对象信息一起被接收或 本地产生。通过提供用于检测角色和视频对象的一致性的检测装 置,在角色和视频序列之间真正的交互作用变得可能。触发装置可 以触发任何适当的事件,诸如声音、角色的特定移动甚至是角色的 消失。因此事件可以包括角色控制序列。
优选地是,视频信息是基本上连续的广播视频流,所述广播视频 流优选包括视频图像信息和相关联的视频对象信息。然而,本发明 还可以应用于来源于诸如DVD之类的数据载体的视频图像信息(和任 何相关联的视频对象信息)。可以依照国际标准MPEG-4来定义视频 对象,这是因为此标准已经允许在不同视频层中容纳视频对象。还 可以使用其它标准,特别是交互式电视标准,例如MHP("多媒体家 庭平台(Multimedia Home Platform)”,用于数字视频广播DVB的 部分标准,如在http://www.mhp.org上所更详细解释)和OpenTV。 典型情况下这些标准把交互作用层添加到视频流,所述层包含诸如 所述视频流中各个对象的位置和大小之类的视频对象信息。依照本 发明,可以把此交互作用层与视频流动态链接。
有益地是,依照本发明的设备还可以包括控制输入装置,用于接 收响应于用户输入所生成的角色控制信号。这使用户能够控制视频 角色。结果,由用户和视频流的视频对象两者来确定角色的"行为″ 因此,本发明使得能够在角色和用户("玩家″)之间以及在角色及 其"环境″(即,围绕所述角色的视频对象)之间进行交互作用。
在有益的实施例中,角色产生装置、检测装置和/或触发装置由 微处理器构成。这使所述装置能够大体上由单个组件构成。
有益地是,本发明的设备由机顶盒和/或游戏控制台构成。
本发明还提供了用于交互式视频的系统,所述系统包括:
·视频源,用于提供视频图像信息和任何相关联的视频对象信 息,
·传输装置,用于发送所述视频图像信息和任何相关联的视频对 象信息,
·接收装置,用于接收所发送的视频图像信息和任何相关联的视 频对象信息,
·显示屏,用于显示所接收的视频图像信息,和
·如上面所定义的设备。
这种系统使得能够进行真正的交互式广播视频。视频源可以包括 远程站或本地视频存储部件。如果视频对象信息可用的话,那么视 频源可以生成这种信息。传输装置可以包括已知的数字电视传输系 统,但是在本地视频存储部件的情况下可以包括本地网络或电缆。 接收装置和显示屏可以一起由电视机构成,优选由数字电视机构 成。本发明的设备可以由机顶盒或游戏控制台构成,或者可以集成 到电视机中。
有益地是,本发明的系统还包括视频对象信息产生器,用于根据 所接收的视频图像信息来产生视频对象信息。视频对象产生器可以 依照诸如MPEG-4或OpenTV之类的已知标准来操作,并且可以按照在 所述标准中的定义来生成视频对象描述符。
本发明还提供了一种提供交互式视频的方法,所述方法包括步 骤:
·接收视频图像信息,
·产生至少一个用户可控制的角色,
·检测角色和与所接收的视频图像信息相关联的视频对象的任 何一致性,并且
·响应于任何所检测的一致性来触发事件。
当在适当的显示屏(例如电视屏幕)上显示包含视频对象的视频 信息和用户可控制的角色时,用户控制的角色可以与所述视频图像 真正进行交互。
本发明还提供了一种用于执行如上面所定义的方法的计算机程 序产品。"计算机程序”将被理解为意指在诸如软盘之类的计算机 可读介质上所存储的、可经由诸如因特网之类的网络下载的,或以 任何其它方式销售的任何软件产品。
下面参考在附图中所图示的示例性实施例来进一步解释本发 明,其中:
图1示意地示出了依照本发明的交互式视频图像。
图2a-d示意地示出了图1的交互式视频图像的组成部分。
图3依照本发明示意地示出了用于提供交互式视频的设备。
图4依照本发明示意地示出了用于提供交互式视频的系统。
在图1中仅仅借助非限制性例子示出的交互式视频图像1包括用 户控制的角色2、视频对象3、3’和3”以及游戏条4。在图2a-d中示 出了所述图像1的组成部分。在所示出的实施例中,图2a的原始视频 图像是电视图像并且是基本上连续的视频流的一部分。可以照此观 看图2a的原始视频图像,但是具有适当设备的观众可以欣赏利用交 互式角色增强的视频流。
为此,把如图2b所示的视频对象集与所述图像相关联。所示出的 赛车构成视频对象3,赛车道的边界是视频对象3’,而在边界另一端 的草地构成了视频对象3”。视频对象可以根据视频流的内容而是相 对静态或(非常)动态的。
典型情况下,视频对象与视频流一起被发送,并且在发送端远程 产生。然而,还可以在用户房屋的设备中的接收端本地产生视频对 象。
在图2c中示出了用户可控制的角色。在所示出的例子中,所述角 色是赛车。此角色由用户设备本地产生,并且被添加到图2a的视频 图像以便形成图1的合成的视频图像。应当注意在图1中添加可选的 游戏条4,此游戏条帮助跟踪用户控制的角色,但是这并不是必须 的。
尽管在图像1中不可见,然而视频对象3、3’、3”是可用的并且用 来在用户控制的角色和所述图像之间提供交互作用。为此,本发明 提供了对角色和视频对象的任何一致性的检测。在所示出的例子 中,例如这可能会包括对角色2和跑道边界视频对象3’的任何一致性 的检测。如果角色2和跑道边界3’一致,那么可以触发事件。此事件 可以包括丢失点或控制序列,诸如突然移动甚至角色的毁灭(撞 车)。应当注意此事件控制序列优先于任何用户控制。
可以根据重叠来检测角色和视频对象的一致性。在数字图像中, 可以容易地检测角色和视频对象包括相同的像素(图元)。代替简 单的重叠,可以使用更高级的一致性检测过程,所述过程考虑视角。 例如在图1的图像中,实际赛车(视频对象3)和虚拟赛车(角色2) 可能碰撞。在俯视图中,这可能按照如图像所示的汽车的任何重叠 来检测。然而在具有锐角视角的图1的视图中,简单的重叠会导致早 期检测并且更逼真的碰撞检测可能会调整到特定的视角。例如可以 通过把辅助视频对象与视频对象3相关联来执行这种调整,辅助视频 对象的尺度随视角而改变。为此,把视角(的估算)添加到视频流 中可能是有益的。
作为替代或除检测到任何重叠之外,也可以根据近似性来检测角 色和视频对象的"一致性”。即,视频角色的行为可以取决于视频 角色的近似性,即便在没有任何重叠的情况下。可以定义适当的近 似性度量,所述度量可以取决于视频角色和视频对象的相对大小、 特定的视频流及其它因素。任何近似性可以是像素或任何其它适当 单元的度量,诸如屏幕大小的百分比。
在图3中示意性示出的依照本发明的设备10包括视频接受部件 11,用于接收包括视频信息的输入视频信号,其中所述视频信息包 含视频对象3,角色产生部件12,用于产生至少一个用户可控制的角 色2,检测部件13,用于检测角色2和视频对象3的任何一致性,触发 部件14,用于响应于任何所检测的一致性来触发事件,和控制输入 部件15,用于接收角色控制信号。在所示出的实施例中,设备10还 包括视频组合部件16,用于组合来自视频接受部件11和角色产生部 件12的视频信息以便生成输出视频信号。
视频接受部件11接收包含视频图像信息和视频对象信息的视频 信号。视频图像信息被馈送到组合部件16,而视频对象信息被传递 到检测部件13。控制输入部件15从诸如操纵杆、鼠标或遥控部件之 类的用户设备接收用户控制信号。适当的控制信号被从控制输入部 件15传递到角色产生部件12以便控制用户控制的角色。角色产生部 件12向组合部件16和检测部件13输出角色信息。由于检测部件13接 收了视频对象信息和角色信息,所以它能够检测到所述角色和视频 对象的任何一致性。如果检测到这种一致性,那么检测部件13生成 检测信号,所述检测信号被传递到触发部件14,所述触发部件14随 后可以触发适当的事件。特定类型的事件可以取决于所涉及的角色 和视频对象,并且可以包括产生视觉和/或听觉消息,执行涉及所关 注的角色的控制序列,或任何其它事件。如果控制序列被激活,那 么触发部件14向角色产生器12传递适当的信号以便控制所述角色。 应当注意,在控制序列由触发装置14发起的情况下,此控制序列典 型情况下优先于任何用户控制信号。组合部件16输出视频接受部件 11和角色产生部件12的组合视频信号。
尽管为了图示的清楚起见,把设备10的各个部件示为不同的部 件,然而可以设想其中把两个或多个部件组合为单个部件的实施 例。这种单个部件可以由适当的微处理器和相关联的存储器和/或由 专用集成电路(ASIC)构成。
在图4中仅仅借助非限制性例子所示出的系统100包括如上所述 的交互式视频设备10、视频源20、显示屏30和用户控制设备40。优 选地是,视频源20包括诸如电缆网之类的传输信道,用于实时发送 远程生成的视频信息。然而,视频源20还可以包括用于再现所存储 的视频信息的设备,诸如DVD播放器。
来源于视频源20并且输入到交互式视频设备10中的视频信息优 选包括视频图像信息和视频对象信息。这在图4中分别由箭头21和22 来示意地表明。应当理解在实际实施例中,可以使用单个电缆来传 达这两种类型的视频信息,不过可以使用独立的电缆。
交互式视频设备10接收来自用户控制设备40的控制信号,所述用 户控制设备40可以是用于生成用户控制信号的操纵杆、鼠标或任何 其它适当的设备。设备10的输出信号(也参见图3)被馈送到显示设 备30,所述显示设备30可以是能够再现由所述设备10所输出的组合 视频信息的电视机、计算机、独立的显示屏或任何其它设备。
应当注意,在图4的例子中假定远程生成视频对象信息,并且设 备10连同视频图像信息一起接收此信息(箭头22)。然而,设备10 还可以本地生成视频对象信息。为此,设备10可能需要一个视频对 象产生器,用于根据视频图像信息来产生视频对象。
本发明是基于可以通过检测在角色和与视频流相关联的视频对 象之间的任何一致性来在所述角色和视频流之间添加交互作用的认 识的。依照这种方式,可以由用户和视频流来控制角色。
应当注意,在此文档中所使用的任何术语不应当被解释为对本发 明范围的限制。特别地是,词"包括”和"包含”并不意味着排除并 未特别声明的任何元件。单个(电路)元件可以用多个(电路)元 件或其等效物来代替。
本领域内技术人员应当理解,本发明不局限于上面所图示的实施 例,并且在不脱离如所附权利要求所定义的本发明范围的前提下, 可以进行许多修改和补充。