基于面部运动的化身动画.pdf

上传人:Y948****062 文档编号:19683 上传时间:2018-01-12 格式:PDF 页数:23 大小:1.35MB
返回 下载 相关 举报
摘要
申请专利号:

CN201280077099.4

申请日:

2012.12.17

公开号:

CN104782120A

公开日:

2015.07.15

当前法律状态:

实审

有效性:

审中

法律详情:

实质审查的生效IPC(主分类):H04N 7/14申请日:20121217|||公开

IPC分类号:

H04N7/14

主分类号:

H04N7/14

申请人:

英特尔公司

发明人:

杜杨洲; 李文龙; X.童; W.胡; 张益民

地址:

美国加利福尼亚州

优先权:

专利代理机构:

中国专利代理(香港)有限公司72001

代理人:

张凌苗; 张懿

PDF下载: PDF下载
内容摘要

使用预定的化身图像对化身制作动画,基于从用户的视频提取的用户的面部特征选择所述预定的化身图像。在实况视频中跟踪用户的面部特征,根据所跟踪的特征确定面部特征参数,并且基于所述面部特征参数选择化身图像。然后被显示的选择的图像被发送到另一设备用于显示。随着用户的面部运动改变选择和显示不同的化身图像对所述化身制作动画。可以从表示诸如说空话(bunking)的特定面部运动的一系列化身图像选择所述化身图像。也可以根据从与用户的面部的不同区域(眼睛、嘴部、鼻子、眉毛)相关联的多个化身特征图像系列选择的多个化身特征图像生成化身图像,其允许对化身的不同区域独立地制作动画。

权利要求书

1.   一种化身动画制作方法,其包括:
使用第一计算设备至少部分地基于根据用户的视频确定的一个或多个面部特征参数从多个预定的化身特征图像的一个或多个选择一个或多个预定的化身特征图像;
至少部分地基于一个多个所选择的预定的化身特征图像生成化身图像;以及
提供化身图像信息用于显示。

2.
   如权利要求1所述的方法,还包括在第一计算设备的显示器处显示所述化身图像。

3.
   如权利要求1所述的方法,其中所述提供包括将化身图像信息发送到第二计算设备。

4.
   如权利要求1所述的方法,其中所述选择包括,针对一个或多个面部特征参数中的相应面部特征参数,将相应面部特征参数映射到属于与所述相应面部特征参数相关联的多个预定的化身特征图像的所选择的预定的化身特征图像。

5.
   如权利要求4所述的方法,其中所述映射是非线性映射。

6.
   如权利要求1所述的方法,其中所述化身图像进一步至少部分地基于化身背景。

7.
   如权利要求1所述的方法,还包括在第二计算设备的显示器处显示所述化身图像。

8.
   一种化身动画制作方法,其包括:
使用计算设备,至少部分地基于根据用户的视频确定的一个或多个面部特征参数,从多个预定的化身特征图像的一个或多个选择一个或多个预定的化身特征图像;
至少部分地基于一个多个所选择的预定的化身特征图像生成化身图像;以及
提供化身图像信息用于显示。

9.
   如权利要求8所述的方法,还包括在第一计算设备的显示器处显示所述化身图像。

10.
   如权利要求8所述的方法,其中所述提供包括将化身图像信息发送到第二计算设备。

11.
   如权利要求10所述的方法,还包括在第二计算设备的显示器处显示所述化身图像。

12.
   如权利要求8所述的方法,其中所述选择包括,针对一个或多个面部特征参数中的相应面部特征参数,将相应面部特征参数映射到属于与所述相应面部特征参数相关联的多个预定的化身特征图像的所选择的预定的化身特征图像。

13.
   如权利要求8所述的方法,其中所述映射是非线性映射。

14.
   如权利要求8所述的方法,其中所述化身图像进一步至少部分地基于化身背景。

15.
   如权利要求8所述的方法,还包括在第二计算设备的显示器处显示所述化身图像。

16.
   一种分发计算机可执行指令的方法,所述计算机可执行指令用于使得计算设备执行化身动画制作方法,所述方法包括:
向计算设备发送计算机可读指令,用于使得所述计算设备执行化身动画制作方法,所述方法包括:
  使用第一计算设备,至少部分地基于根据用户的视频确定的一个或多个面部特征参数,从多个预定的化身特征图像的一个或多个选择一个或多个预定的化身特征图像;
  至少部分地基于一个多个所选择的预定的化身特征图像生成化身图像;以及
  提供化身图像信息用于显示,以及
在计算设备处存储所述计算机可读指令。

17.
   一种或多种计算机可读存储介质,其存储用于使得计算设备执行权利要求1-16的化身动画制作方法中的任何一个的计算机可执行指令。

18.
   至少一种计算设备,其被编程为执行权利要求1-16的化身动画制作方法中的任何一个。

19.
   至少一种计算设备,其包括执行权利要求1-16的方法中的任何一个的装置。

20.
   一种化身动画制作方法,其包括:
跟踪在用户的视频中的一个或多个面部特征;以及
将化身图像信息发送到第二计算设备。

21.
   如权利要求20所述的方法,其中所述化身图像信息包括对一个或多个化身特征图像系列的一个或多个索引或者对一个或多个化身图像系列的一个或多个索引。

22.
   如权利要求20所述的方法,其中所述化身图像信息还包括化身背景图像或者化身背景图像的指示符。

23.
   一种或多种计算机可读存储介质,其存储用于使得计算设备执行权利要求20-22的化身动画制作方法中的任何一个的计算机可执行指令。

24.
   至少一种计算设备,其被编程为执行权利要求20-22的化身动画制作方法中的任何一个。

25.
   一种计算设备,其包括:
面部特征跟踪模块,用以跟踪在用户的视频中的一个或多个面部特征;
面部特征参数模块,用以根据一个或多个所跟踪的面部特征确定一个或多个面部特征参数;以及
化身图像生成模块,用以基于所确定的一个或多个面部特征参数从一个或多个化身图像系列选择化身图像,并且提供所选择的化身图像用于显示。

26.
   一种计算设备,其包括:
面部特征跟踪模块,用以跟踪在用户的视频中的一个或多个面部特征;
面部特征参数模块,用以根据一个或多个所跟踪的面部特征确定一个或多个面部特征参数;以及
化身图像生成模块,用以基于所确定的一个或多个面部特征参数从一个或多个化身特征图像系列选择一个或多个化身特征图像、基于一个或多个所选择的化身特征图像生成化身图像、并且提供所生成的化身图像用于显示。

说明书

基于面部运动的化身动画
背景技术
可以在诸如游戏或社交媒体平台的软件应用和各种平台中通过化身(avatar)表示用户。可以对这些化身中的某些制作动画(animate)。
附图说明
图1是在其中可以实现本文描述的技术的示例性环境的图。
图2图示了用于对化身的面部制作动画的两个示例性化身图像系列。
图3图示了两个示例性化身特征图像系列以及化身背景。
图4示出了图示在面部特征参数与对化身图像系列或化身特征图像系列的索引之间的示例性线性和非线性关系的图。
图5是用于对化身制作动画的第一示例性计算设备的框图。
图6是第一示例性化身动画制作方法的流程图。
图7是第二示例性化身动画制作方法的流程图。
图8是用于对化身制作动画的第二示例性计算设备的框图。
图9是可以执行指令作为实现本文描述的技术的一部分的示例性处理器核的框图。
具体实施方式
本文描述的技术允许基于用户的面部或头部运动(此后共同称为“面部运动”)实时地对化身制作动画。在用户的实况(live)视频中跟踪用户的面部特征,并且根据所跟踪的特征确定的面部特征参数被映射到预定的化身图像。所公开的化身动画制作技术比包括基于用户的面部运动生成复杂3D化身模型或使其变形以及基于这样的模型再现(render)化身图像的方法消耗较少的功率。相应地,采用所公开的技术的移动计算设备的电池寿命相对于使用更为计算密集型的方法的设备可以被延长。
现在参考附图,其中贯穿附图,相同的参考标号被用于指代相同的元素。在以下描述中,出于解释的目的,记载了许多具体细节以便提供其彻底的理解。然而,可能明显的是,可以在没有这些具体细节的情况下实行新颖的实施例。在其他实例中,以框图形式示出已知的结构和设备以便促进其描述。意图覆盖在权利要求书的范围之内的所有的修改、等同和替代。
图1是在其中可以实现本文描述的技术的示例性环境100的图。环境100包括第一用户110,其使用第一计算设备120与使用第二计算设备140的第二用户130经由网络(或云)150通过视频呼叫或视频会议通信。第一和第二计算设备120和140可以是任何计算设备,诸如移动设备(例如,智能电话、膝上型或平板计算机)、台式计算机或服务器,并且网络150可以是任何类型的网络,诸如局域网(LAN)、广域网(WAN)或者因特网。
运行在第一计算设备120上的视频呼叫应用的用户接口160可以包括第二用户130的化身图像170,其占用户接口160的大部分。可选地,用户接口160还可以包括用户110的化身图像180,其占所述接口的较小的部分。化身图像170和180基于从用户的实况视频提取的用户110和130的面部特征,以虑及在各方之间的实时通信。即,一旦由视频捕获设备生成视频帧,就使所述视频帧针对视频化身动画制作处理可用。在其中不需要在用户之间的实时通信的某些实施例中,可以基于在任何先前的时间处捕获的存储的视频对化身制作动画。
可以通过例如被集成到计算设备中的照相机向所述计算设备提供视频,所述被集成到计算设备中的照相机诸如是被集成到智能电话或者平板计算机中的正面(front-facing)照相机(例如,照相机190和195),或者与所述计算设备通信地耦合的外部视频捕获设备,诸如耦合到膝上型计算机的无线摄像机(camcorder)或者耦合到台式计算机的web照相机。
一般地,基于根据在用户的视频中跟踪的面部特征确定的面部特征参数对化身制作动画。示例性面部特征包括上唇和下唇、上眼睑和下眼睑、嘴角、左眉和右眉(内端、中部和外端)、下巴、左耳和右耳、鼻尖以及左鼻翼和右鼻翼的位置。示例性面部特征参数包括头部转动的程度、头部倾斜的程度、在上唇和下唇之间的距离、在嘴角之间的距离、在上唇和鼻尖之间的距离、在鼻翼和鼻尖之间的距离、在上眼睑和下眼睑之间的距离、在眉尖(eyebrow tip)之间的距离以及在眉尖和眉中部(eyebrow middle)之间的距离。除上述列出的那些之外,还可以跟踪和确定面部特征以及面部特征参数。
所确定的面部特征参数被用于选择预定的化身图像,用于对化身制作动画。所述化身图像是预定的,因为它们已经在根据视频确定用户的面部特征参数之前生成。所述预定的化身图像可以预先安装在购买的计算设备上或者在购买之后被安装在所述设备处。可以通过例如下载支持使用本文描述的技术的化身动画制作的通信应用,或者通过分离地下载化身图像来在购买之后安装化身图像。此外,可以通过另一计算设备提供化身图像。例如,可以通过远程计算设备向计算设备提供化身图像,所述计算设备与所述远程计算设备通信。例如,作为建立视频呼叫的一部分或者在视频呼叫期间,可以通过远程计算设备提供化身图像。
预定的化身图像可以采取各种形式。例如,它们可以是简单的卡通图像,或者是根据使用专业再现引擎创建的复杂3D模型生成的图像。预定的化身图像还通常被本地存储在计算设备处。这虑及向在所述计算设备处的其他资源以及向其他计算设备快速提供化身图像,其他计算设备诸如参与与所述计算设备的视频呼叫的远程计算设备。
在某些实施例中,通过至少部分地基于根据用户的视频确定的面部特征参数,从化身图像的一个或多个系列选择化身图像来对化身制作动画。随着归因于用户的改变的面部运动的在视频中的用户的面部特征改变,选择和显示不同的化身图像,产生形成动画(animated)的化身,其外貌对应于用户的面部运动。可以对化身制作动画的方式可以基于对计算设备可用的化身图像系列。
图2图示了用于对化身制作动画的两个示例性化身图像系列200和210。系列200可以被用于对化身的嘴部的张开和闭合制作动画,并且系列210可以被用于对化身眨眼制作动画。系列200和210的每个分别包括具有相应的索引220和230的十个化身图像。化身图像系列(或者,化身特征图像系列,如以下讨论的那样)可以包括任何数量的图像。在系列中的图像的数量可以基于例如动画平滑度的期望水平以及化身图像系列可占的存储器的期望量。一般地,在所公开的技术的特定实现中跟踪的面部特征可以基于对所述设备可用的化身图像系列。例如,如果计算设备仅具有对系列200和210的访问,则所述设备仅可以跟踪涉及嘴部和眼睛的面部特征。
选择在系列中的化身图像可以包括将一个或多个面部特征参数映射到图像索引。例如,在用户的上唇和下唇之间的距离可以被映射到系列200的索引220中的一个。可以使用各种映射方法。一个示例性映射包括将面部特征参数规格化成零到一的范围,并且然后执行规格化的参数到系列索引的线性映射。例如,在用户的上唇和下唇之间的距离可以被规格化成零到一的范围,并且然后上舍入为最近的十分位(round up to the nearest tenth)以生成针对系列200的索引。在某些实施例中,可以基于两个或更多的面部特征参数生成索引。例如,在用户的上唇和下唇之间的距离以及在用户的嘴角之间的距离的组合可以被映射到系列200的索引。
相应地,可以通过以按照索引值的递增顺序接连显示在系列200中的相邻的化身图像并且然后以按照索引值的递减次序接连显示来对化身制作动画以张开和闭合其嘴部。如本文中使用的那样,术语“相邻”在其指代在系列中的化身图像时意味着在由所述系列表示的动画序列中的下一个或在前的图像。例如,参考化身图像系列200,化身图像240相邻于化身图像250和260。然而,相邻的化身图像不一定接连显示。例如,所显示的化身动画可以包括在显示化身图像250(索引=5)之后立即显示化身图像260(索引=7)。
可以使用附加的化身图像系列来对化身制作动画,其具有不同于眨眼以及张开和闭合其嘴部的面部运动。例如,化身图像系列可以被用于使得化身打哈欠、微笑、眨眼示意(wink)、上扬其眉毛、皱眉等等。
在某些实施例中,每次使用一个化身图像系列对化身制作动画。例如,如果计算设备具有对化身图像系列200和210的访问,则化身可以被制作成眨眼或者张开以及闭合其嘴部,但是不能被制作成同时进行两者。在其他实施例中,化身图像系列可以对多个面部运动制作动画。例如,系列200和210可以被组合,以创建包括对应于在系列200中的十个嘴部图像与在系列210中的十个眼睛图像的组合的100个化身图像的化身图像系列。这样的扩展的化身图像系列可以被用于对可以同时眨眼并且张开和闭合其嘴部的化身制作动画。化身图像系列可以对多于两个的面部表情制作动画。
如果计算设备具有对多于一个化身图像系列的访问,所述化身图像系列对面部的相同区域制作动画(例如,可以对嘴部制作动画的两个系列——一个系列对微笑制作动画并且一个系列对皱眉制作动画),则所述计算设备可以基于所确定的面部特征参数,选择使用哪些系列来对化身制作动画。例如,在嘴角和下唇之间的竖直距离可以被用于确定用户是在微笑还是在皱眉。
在某些实施例中,化身特征图像的多个系列可以被用于对化身的各种区域独立地制作动画。每个化身特征图像系列对应于化身的面部的一个区域(眼睛、眉毛、鼻子、嘴部,等等)。在这样的实施例中,可以通过组合从化身特征图像系列选择的化身特征图像来生成化身图像。可以基于与面部区域相关联的面部特征参数,从系列选择化身特征图像,所述面部区域对应于所述系列。在某些实施例中,所选择的化身特征图像可以与化身背景(例如,缺少一个或多个部分的面部的图像)组合,以生成化身图像。利用化身特征图像的多个系列虑及化身的面部的多个区域的独立的动画制作,而不需要包含大量图像的单个化身图像系列。
图3图示了两个示例性化身特征图像系列300和310以及化身背景320。系列300和310可以被用于对化身的嘴部和眼睛独立地制作动画。系列300可以被用于对化身的嘴部张开和闭合制作动画,并且系列310可以被用于对化身的眨眼制作动画。化身背景320包括不具有眼睛和嘴部的化身面部的图像。可以通过基于例如在用户的上眼睑和下眼睑之间的距离从系列310选择化身特征图像、基于例如在上唇和下唇之间的距离从系列300选择化身特征图像、并且将所选择的化身特征图像与化身背景320组合,来生成将在动画中呈现的化身图像。例如,如果在视频中的时间上的特定时刻处,在用户的上唇和下唇之间的所确定的距离被映射到系列300的索引六,并且在用户的上眼睑和下眼睑之间的所确定的距离被映射到系列310的索引十,则所选择的化身特征图像330和340可以与化身背景320组合以生成化身图像350。
在某些实施例中,分离的化身特征图像系列可以被用于对左眉和右眉以及左眼和右眼独立地制作动画。此外,单个图像系列可以包括被用于对针对面部区域的不同面部运动制作动画的图像。例如,用于对化身的嘴部制作动画的单个化身特征图像系列可以被用于使得所述化身打哈欠、微笑、露齿笑、皱眉或使得嘴部运动与语言的音素(phoneme)相关联。这样的更加复杂的化身特征图像系列可以对应于多个面部特征参数。
图4示出了分别经由曲线410和420图示在面部特征参数(或者多个面部特征参数的组合)与对化身图像系列或化身特征图像系列的索引之间的示例性线性和非线性关系的图400。在某些实施例中,映射可以是非线性的,以强调化身特征的运动。例如,考虑被用于对化身的嘴部的张开和闭合制作动画的化身特征图像系列300。虽然所述图像从闭合的嘴部(图像360)到完全张开的嘴部(图像370)变化,但是在典型的会话期间,用户的嘴部的运动可能不在该整个范围之上变化。因此,线性映射可以导致用户的嘴部运动被映射到在系列300中的相对窄的索引范围,诸如二到六。使用非线性映射,诸如由曲线420表示的映射,可以使得由在典型的会话期间的用户进行的嘴部运动被映射到较宽范围的索引(例如,在系列300中的一到八),以强调在所述化身中的嘴部运动。
出于对化身制作动画的目的由一个计算设备发送到另一计算设备的化身图像信息可以采取各种形式。例如,在某些实施例中,化身图像信息可以包括针对在化身动画序列中的每个帧的化身图像。可以以已知的图像文件格式(例如,.jpg、.tiff、.bmp)或者其他格式发送所述化身图像。在某些实施例中,如果接收计算设备具有对与将被制作动画的化身相关联的化身图像系列的访问,则化身图像信息可以包括到化身图像系列中的索引。接收设备然后可以从所述系列取回(retrieve)适当的化身图像,用于在接收设备处显示。化身图像信息也可以包括化身图像系列的标识符。
在其他实施例中,化身图像信息可以包括对一个或多个化身特征图像系列的一个或多个索引,并且接收计算设备可以组合与到化身图像中的索引相关联的化身特征图像,用于在接收计算设备显示器处显示。化身图像信息还可以包括针对将与化身特征图像组合的化身背景的指示符。在各种实施例中,化身图像信息可以包括根据视频确定的面部特征参数,并且接收计算设备可以将所接收的参数映射到化身图像或者一个或多个化身特征图像。
在某些实施例中,可以经由诸如基于云的服务器的中间计算设备将化身图像信息发送到第二计算设备。例如,是视频会议服务的一部分的基于云的服务器可以从被视频会议的第一参与者使用的计算设备接收化身图像信息,并且将所述化身图像信息分发到所述视频会议的其他参与者。
在某些实施例中,在计算设备的显示器处对用户的化身制作动画,所述计算设备跟踪用户的面部特征视频和/或根据所跟踪的面部特征确定面部特征参数。例如,参考图1,第一计算设备120以照相机190生成用户110的视频、跟踪所述用户的面部特征、基于所跟踪的特征确定面部特征参数、并且在第一设备的用户接口160中呈现用户110的形成动画的化身180。在某些实施例中,化身图像信息没有被发送到另一计算设备。例如,游戏控制台(gaming console)可以基于由连接到所述游戏控制台的深度照相机捕获的用户的面部运动来对用户的游戏化身制作动画。所述游戏控制台可以在诸如电视的连接到所述游戏控制台的显示器中呈现形成动画的游戏化身。
图5是用于对化身制作动画的第一示例性计算设备500的框图。计算设备500包括显示器510、将化身图像信息发送到另一计算设备的通信模块520、跟踪在用户的视频中的面部特征的面部特征跟踪模块530、根据所跟踪的面部特征确定面部特征参数的面部特征参数模块540、化身图像生成模块550以及存储化身图像系列和/或化身特征图像系列的化身图像系列存储560。
化身图像生成模块550可以基于所确定的面部特征参数,从图像系列选择化身图像或者化身特征图像。化身图像生成模块550还可以从多个化身特征图像系列选择多个化身特征图像,并且将所选择的化身特征图像与化身背景组合以生成化身图像。化身图像生成模块550可以进一步提供所选择或者所生成的化身图像,用于在例如计算设备500或另一计算设备处显示。可选地,所述计算设备可以包括视频照相机570以捕获用户的视频。在某些实施例中,计算设备500从诸如web照相机或基于云的视频源的外部视频源580接收视频。
应理解,图5图示了可以被包括在计算设备中的模块的集合的一个示例。在其他实施例中,计算设备可以具有比在图5中示出的那些多或者少的模块。进一步地,在图5中示出为分离的模块可以被组合成单个模块,或者在图5中示出的单个模块可以被分成多个模块。此外,在图5中示出的任何模块可以是计算设备500的操作系统的一部分、独立于所述操作系统的一个或多个软件应用,或者操作在另一软件层处。可以在软件、硬件、固件或它们的组合中实现在图5中示出的模块。被称为被编程以执行方法的计算设备可以被编程以经由软件、硬件、固件或它们的组合执行所述方法。
图6是第一示例性化身动画制作方法600的流程图。方法600可以被例如运行视频呼叫应用的智能电话执行,其中用户通过在被所述通话的另一方使用的远程计算设备的显示器上的化身表示。化身跟踪所述用户的面部运动,并且所述智能电话存储多个化身特征图像系列,以对化身的眉毛、左眼和右眼以及嘴部独立地制作动画。在过程动作610处,至少部分地基于根据用户的视频确定的一个或多个面部特征参数,使用第一计算设备,从多个预定的化身特征图像的一个或多个选择一个或多个预定的化身特征图像。在示例中,智能电话基于根据由所述智能电话的集成的照相机捕获的所述用户的视频确定的面部特征参数,选择针对眉毛、左眼、右眼以及嘴部的化身特征图像。在过程动作620处,至少部分地基于一个多个所选择的预定的化身特征图像生成化身图像。在示例中,所述智能电话将所选择的眉毛、左眼、右眼以及嘴部化身特征图像和与所述用户相关联的化身背景图像组合以生成化身图像。在过程动作630处,提供化身图像信息用于显示。在示例中,向智能电话显示资源提供化身图像用于在所述智能电话的显示器的一部分中的化身的显示,使得用户可以看见如何针对所述呼叫的其他方他对他的化身制作动画。所述智能电话还向所述呼叫的其他方的计算设备提供化身图像。
图7是第二示例性化身动画制作方法700的流程图。方法700可以被例如执行视频呼叫应用的平板计算机执行,其中用户由在被视频呼叫的其他方操作的远程计算设备的显示器上的化身表示。所述化身跟踪用户的面部运动,并且所述智能电话存储被用于对所述化身制作动画的多个化身图像系列。各种化身图像系列对用户的各种面部运动制作动画,诸如微笑、皱眉和眨眼。在过程动作710处,在第一计算设备处至少部分地基于根据用户的视频确定的一个或多个面部特征参数,从多个预定的化身图像选择预定的化身图像。在示例中,基于通过由平板计算机的集成的照相机捕获的用户的视频确定的面部特征参数,从被用于使得化身微笑的化身图像系列选择化身图像。在过程动作720处,在第一计算设备的显示器处显示所选择的化身图像,或者将化身图像信息发送到第二计算设备。在示例中,平板计算机将所选择的化身图像发送到第二计算设备。
本文描述的技术至少具有以下示例性优点。相对于基于所跟踪的面部特征在运行中(on the fly)生成3D化身模型或者使其变形的动画制作方法或者相对于使用复杂的3D再现引擎以生成将在显示器处呈现的化身图像的方法,使用预定的化身图像来对化身制作动画提供了较低的功率化身动画制作选择。通过避免此类计算上昂贵的方法,本文描述的技术还可以更快地生成化身动画。虽然主要在视频呼叫应用的上下文中讨论化身动画制作,但是所描述的技术可以被用在对化身制作动画或者可以对化身制作动画的任何场景中,诸如在游戏应用(例如,基于控制台的应用或者大型多人在线角色扮演游戏)中。
本文描述的技术可以被多种计算设备中的任何计算设备执行,其包括移动设备(诸如智能电话、手持式计算机、平板计算机、膝上型计算机、媒体播放器、便携式游戏控制台、照相机以及视频记录器)、非移动设备(诸如台式计算机、服务器、固定游戏控制台、智能电视)以及嵌入式设备(诸如被并入到车辆中的设备)。如本文中使用的那样,术语“计算设备”包括计算系统,并且包括包含多个分立的物理部件的设备。
图8是用于对化身制作动画的第二示例性计算设备800的框图。一般地,在图8中示出的部件可以与示出的其他部件通信,虽然为了方便图示,没有示出所有的连接。设备800是包括第一处理器802和第二处理器804的多处理器系统,并且被图示为包括点到点(P-P)互连。例如,处理器802的点到点(P-P)接口806经由点到点互连805耦合到处理器804的点到点接口807。应理解,在图8中图示的任何或者所有的点到点互连可以被替代地实现为多点总线(multi-drop bus),并且在图8中图示的任何或所有的总线可以被点到点互连替换。
如在图8中示出的那样,处理器802和804是多核处理器。处理器802包括处理器核808和809,并且处理器804包括处理器核810和811。处理器核808-811可以以类似于下文关于图9讨论的方式类似的方式或者以其他方式执行计算机可执行指令。
处理器802和804分别进一步包括至少一个共享的高速缓存存储器812和814。共享的高速缓存812和814可以存储由诸如处理器核808-809和810-811的处理器的一个或多个部件利用的数据(例如,指令)。共享的高速缓存812和814可以是设备800的存储器层次的一部分。例如,共享的高速缓存812可以本地存储也被存储在存储器816中的数据,以虑及由处理器802的部件对所述数据的较快的访问。在某些实施例中,共享的高速缓存812和814可以包括多个高速缓存层,诸如级别1(L1)、级别2(L2)、级别3(L3)、级别4(L4)和/或其他高速缓存或高速缓存层,诸如最后级别高速缓存(LLC)。
虽然设备800被示出具有两个处理器,但是设备800可以包括仅一个处理器或者包括多于两个处理器。进一步地,处理器可以包括一个或多个处理器核。处理器可以采取各种形式,诸如中央处理单元、控制器、图形处理器、加速器(诸如图形加速器或者数字信号处理器(DSP))或者现场可编程门阵列(FPGA)。在设备中的处理器可以与在所述设备中的其他处理器相同或不同。在某些实施例中,设备800可以包括与第一处理器、加速器、FPGA或任何其他处理器异质或不对称的一个或多个处理器。在包括架构、微架构、热、功率消耗特性等等的优点(merit)的度量的谱的方面,在系统中的处理元件之间可以存在多种差异。这些差异可以将它们自己有效地表明为在系统中的处理器之中不对称和异质。在某些实施例中,处理器802和804驻留在相同的管芯(die)封装中。
处理器802和804进一步包括存储器控制器逻辑(MC)820和822。如在图8中示出的那样,MC 820和822分别控制耦合到处理器802和804的存储器816和818。存储器816和818可以包括各种类型的存储器,诸如易失性存储器(例如,动态随机访问存储器(DRAM)、静态随机访问存储器(SRAM))或者非易失性存储器(例如,闪存)。虽然MC 820和822被图示为被集成到处理器802和804中,但是在替代实施例中,所述MC可以是处于处理器外部的逻辑,并且可以包括一层或多层存储器层次。
处理器802和804经由P-P互连832和834耦合到输入/输出(I/O)子系统830。点到点互连832将处理器802的点到点接口836与I/O子系统830的点到点接口838连接,并且点到点互连834将处理器804的点到点接口840与I/O子系统830的点到点接口842连接。输入/输出子系统830进一步包括接口850,以将I/O子系统830耦合到图形引擎852,所述图形引擎852可以是高性能图形引擎。I/O子系统830和图形引擎852经由总线854耦合。替代地,总线844可以是点到点互连。
输入/输出子系统830经由接口862进一步耦合到第一总线860。第一总线860可以是外围部件互连(PCI)总线、PCI快速总线、另一第三代I/O互连总线或者任何其他类型的总线。
各种I/O设备864可以耦合到第一总线860。总线桥870可以将第一总线860耦合到第二总线880。在某些实施例中,第二总线880可以是低管脚数(LPC)总线。各种设备可以耦合到第二总线880,包括例如键盘/鼠标882、音频I/O设备888以及存储设备890,诸如硬盘驱动器、固态驱动器或者其他存储设备,用于存储计算机可执行的指令(代码)892。代码892包括用于执行本文描述的技术的计算机可执行指令。可以耦合到第二总线880的附加部件包括(一个或多个)通信设备884,其可以提供在设备800和一个或多个有线或无线网络886(例如,Wi-Fi、蜂窝或卫星网络)之间经由一个或多个有线或无线通信链接(例如,电线、线缆、以太网连接、射频(RF)信道、红外信道、Wi-Fi信道)使用一个或多个通信标准(例如,IEEE 802.11标准及其补充)的通信。
设备800可以包括可移除存储器,诸如闪存卡(例如SD(安全数字)卡)、存储器棒(memory stick)、订户身份模块(SIM)卡)。在设备800中的存储器(包括高速缓存812和814、存储器816和818以及存储设备890)可以存储用于执行操作系统894和应用程序896的数据和/或计算机可执行指令。示例数据包括web页面、文本消息、图像、声音文件、视频数据、化身图像系列、化身特征图像系列、化身背景或者其他数据,所述其他数据被设置成由设备800经由一个或多个有线或无线网络发送到和/或接收自一个或多个网络服务器或其他设备,或者供设备800使用。设备800还可以具有对诸如外部硬驱动器或基于云的存储的外部存储器(未示出)的访问。
操作系统894可以控制在图8中图示的部件的分配和使用,并且支持一个或多个应用程序896。应用程序896可以包括公共的移动计算设备应用(例如,电子邮件应用、日历、联系人管理器、web浏览器、消息收发应用)以及其他计算应用,诸如基于用户的面部特征对用户的化身制作动画的视频呼叫应用897。
设备800可以支持各种输入设备,诸如触摸屏、麦克风、照相机、物理键盘、接近度传感器和跟踪球,以及一个或多个输出设备,诸如扬声器和显示器。其他可能的输入和输出设备包括压电和其他触觉I/O设备。任何输入或输出设备可以处于设备800的内部、外部,或者与设备800可移除地附接,诸如外部深度照相机或者连接的电视。外部输入和输出设备可以与设备800经由有线或无线连接通信。
另外,计算设备800可以提供一个或多个自然用户接口(NUI)。例如,操作系统892或应用894可以包括语音识别逻辑作为允许用户经由语音命令操作设备800的语音用户接口的一部分。进一步地,设备800可以包括输入设备和逻辑,其允许用户经由身体、手或者面部姿势与设备800交互。例如,可以检测和解释用户的手势以提供对游戏应用的输入。
设备800可以进一步包括耦合到一个或多个天线的一个或多个无线调制解调器(其可以包括通信设备884),以支持在系统800和外部设备之间的通信。无线调制解调器可以支持各种无线通信协议和技术,诸如近场通信(NFC)、Wi-Fi、蓝牙、4G长期演进(LTE)、码分多址(CDMA)、通用移动电信系统(UMTS)以及全球移动通信系统(GSM)。另外,无线调制解调器可以支持与一个或多个蜂窝网络的通信,用于在单个蜂窝网络之内、在蜂窝网络之间或者在移动计算设备和公共交换电话网(PSTN)之间的数据和语音通信。
设备800可以进一步包括至少一个输入/输出端口(其可以是例如USB端口、IEEE 994(火线)端口和/或RS-232端口),其包括物理连接器、功率供应、诸如GPS接收器的卫星导航系统接收器、陀螺仪、加速度计和罗盘。GPS接收器可以耦合到GPS天线。设备800可以进一步包括耦合到一个或多个附加的接收器、发射器和/或收发器的一个或多个附加天线以使能附加的功能。
应理解,图8仅图示了一个示例性计算设备架构。基于替代架构的计算设备可以被用于实现本文描述的技术。例如,代替处理器802和804以及位于分立集成电路上的图形引擎852,计算设备可以包括并入了多个处理器、图形引擎以及附加部件的SoC(片上系统)集成电路。进一步地,计算设备可以经由不同于在图8中示出的总线配置的总线配置连接元件。此外,不需要或不全部包括在图8中图示的部件,因为在替代实施例中,可以移除示出的部件并且可以添加其他部件。
图9是执行用于实现本文描述的技术的计算机可执行指令的示例性处理器核900的框图。处理器核900可以是用于任何类型的处理器的核,诸如微处理器、嵌入式处理器、数字信号处理器(DSP)或者网络处理器。处理器核900可以是单线程核或者多线程核,因为其每个核可以包括多于一个的硬件线程上下文(或者“逻辑处理器”)。
图9还图示了耦合到处理器900的存储器910。存储器910可以是本文描述的任何存储器,或者对本领域技术人员已知的任何其他存储器。存储器910可以存储由处理器核900可执行的计算机可执行指令915(代码)。
处理器核包括前端逻辑920,其从存储器910接收指令。可以由一个或多个解码器930处理指令。解码器930可以生成微操作作为其输出,诸如预定义格式的固定宽度微操作,或者生成反映原始的代码指令的其他指令、微指令或者控制信号。前端逻辑920进一步包括寄存器重命名逻辑935和调度逻辑940,其一般地分配对应于转换指令用于执行的资源和队列操作。
处理器核900进一步包括执行逻辑950,其包括一个或多个执行单元(EU)965-1至965-N。某些处理器核实施例可以包括专用于具体功能或者功能集合的多个执行单元。其他实施例可以仅包括一个执行单元或者可以执行特定功能的一个执行单元。执行逻辑950执行由代码指令指定的操作。在完成由代码指令指定的操作的执行之后,后端逻辑970使用引退(retirement)逻辑975使指令引退。在某些实施例中,处理器核900允许无次序的执行,但是需要指令的有次序的引退。引退逻辑970可以采取对本领域技术人员已知的多种形式(例如,重新排序缓冲区等等)。
处理器核900在指令的执行期间至少在以下方面被变换:由解码器930生成的输出、由寄存器重命名逻辑935利用的硬件寄存器和表格,以及由执行逻辑950修改的任何寄存器(未示出)。虽然在图9中未图示,但是处理器可以在具有处理器核900的集成芯片上包括其他元件。例如,处理器可以包括附加元件,诸如存储器控制逻辑、一个或多个图形引擎、I/O控制逻辑和/或一个或多个高速缓存。
参考回图1,网络或云150可以提供各种基于云的服务,其可以被用于实现本文描述的技术。例如,可以通过基于云的服务提供化身图像系列或化身特征图像系列,或者采用本文描述的化身动画制作技术的应用。
任何所公开的方法可以被实现为计算机可执行指令或者计算机程序产品。这样的指令可以使得计算机执行任何所公开的方法。一般地,如本文中使用的那样,术语“计算机”是指本文描述或提及的任何计算设备或系统,或者任何其他计算设备。因此,术语“计算机可执行指令”是指可以被本文描述或提及的任何计算设备或者任何其他计算设备执行的指令。
在实现所公开的技术的期间创建和使用的计算机可执行指令或者计算机程序产品以及任何数据可以被存储在一个或多个有形的计算机可读存储介质上,一个或多个有形的计算机可读存储介质诸如光介质盘(例如,DVD、CD)、易失性存储器部件(例如,DRAM、SRAM)或非易失性存储器部件(例如,闪存、盘驱动器)。计算机可读存储介质可以被包含在诸如固态驱动器、USB闪存驱动器以及存储器模块的计算机可读存储设备中。替代地,计算机可执行指令可以被包含用于执行所公开的方法的所有或者一部分的硬布线逻辑的专用硬件部件执行,或者被计算机可读存储介质和硬件部件的任何组合执行。
所述计算机可执行指令可以是例如以下内容的一部分:专用软件应用或经由web浏览器或者其他软件应用(诸如远程计算应用)访问的软件应用。可以例如在单个计算设备上或者使用一个或多个网络计算机在网络环境中执行这样的软件。进一步地,应理解,所公开的技术不被限制于任何具体的计算机语言或程序。例如,所公开的技术可以被以C++、Java、Perl、JavaScript、Adobe Flash或者任何其他适合的编程语言编写的软件实现。同样地,所公开的技术不被限制于任何特定的计算机或硬件类型。适合的计算机和硬件的某些细节是已知的并且不需要在本公开中详细记载。
更进一步地,可以通过适合的通信手段上传、下载或远程访问任何基于软件的实施例(包括例如用于使得计算机执行任何所公开的方法的计算机可执行指令)。这样的适合的通信手段包括例如因特网、万维网、内联网、线缆(包括光纤线缆)、磁通信、电磁通信(包括RF、微波以及红外通信)、电子通信或者其他这样的通信手段。
如在本申请中以及在权利要求书中使用的那样,由术语“和/或”连结的项目列表可以意味着所列出的项目的任何组合。例如,短语“A、B和/或C”可以意味着A;B;C;A和B;A和C;B和C;或者A、B和C。如在本申请中以及在权利要求书中使用的那样,由术语“...中的至少一个”或者“...中的一个或多个”连结的项目列表可以意味着所列出的术语的任何组合。例如,短语“A、B或C中的至少一个”或者“A、B或C中的一个或多个”可以意味着A;B;C;A和B;A和C;B和C;或者A、B和C。
所公开的方法、装置和系统不以任何方式解释为限制性的。代替地,本公开指向单独地以及彼此组合和次组合的各种所公开的实施例的所有新颖和非显而易见的特征和方面。所公开的方法、装置和系统不限于任何具体方面或特征或者它们的组合,公开的实施例也不要求呈现任何一个或多个具体优点或者解决问题。
本文关于本公开的装置或方法提出操作的理论、科学原理或者其他理论描述是出于更好地理解的目的提供的,并且不意图在范围上限制。在所附权利要求书中的装置和方法不被限制于以通过操作的此类理论描述的方式运转的那些装置和方法。
虽然为了方便呈现而以特定的连续的次序描述了公开的方法中的某些的操作,但是应理解描述的该方式包含重新布置,除非本文记载的具体语言要求特定的排序。例如,连续地描述的操作在某些情况下可以被重新布置或者被同时执行。此外,为了简单,附图可能不示出可以连同其他方法使用公开的方法的各种方式。
以下示例关于进一步的实施例。
示例1.一种化身动画制作方法,其包括:使用第一计算设备至少部分地基于根据用户的视频确定的一个或多个面部特征参数从多个预定的化身特征图像的一个或多个选择一个或多个预定的化身特征图像;至少部分地基于一个多个所选择的预定的化身特征图像生成化身图像;以及提供化身图像信息用于显示。
示例2.如示例1所述的方法,还包括在第一计算设备的显示器处显示所述化身图像。
示例3.如示例1所述的方法,其中所述提供包括将化身图像信息发送到第二计算设备。
示例4.如示例1所述的方法,其中所述选择包括,针对一个或多个面部特征参数中的相应的面部特征参数,将相应的面部特征参数映射到属于与所述相应的面部特征参数相关联的多个预定的化身特征图像的所选择的预定的化身特征图像。
示例5.如示例4所述的方法,其中所述映射是非线性映射。
示例6.如示例1所述的方法,其中所述化身图像进一步至少部分地基于化身背景。
示例7.如示例1所述的方法,还包括在第二计算设备的显示器处显示所述化身图像。
示例8.一种化身动画制作方法,其包括:使用计算设备至少部分地基于根据用户的视频确定的一个或多个面部特征参数从多个预定的化身特征图像的一个或多个选择一个或多个预定的化身特征图像;至少部分地基于一个多个所选择的预定的化身特征图像生成化身图像;以及提供化身图像信息用于显示。
示例9.如示例8所述的方法,还包括在第一计算设备的显示器处显示所述化身图像。
示例10.如示例8所述的方法,其中所述提供包括将化身图像信息发送到第二计算设备。
示例11.如示例10所述的方法,还包括在第二计算设备的显示器处显示所述化身图像。
示例12.如示例8所述的方法,其中所述选择包括,针对一个或多个面部特征参数中的相应的面部特征参数,将相应的面部特征参数映射到属于与所述相应的面部特征参数相关联的多个预定的化身特征图像的所选择的预定的化身特征图像。
示例13.如示例8所述的方法,其中所述映射是非线性映射。
示例14.如示例8所述的方法,其中所述化身图像进一步至少部分地基于化身背景。
示例15.如示例8所述的方法,还包括在第二计算设备的显示器处显示所述化身图像。
示例16.一种分发计算机可执行指令的方法,所述计算机可执行指令用于使得计算设备执行化身动画制作方法,所述方法包括:向计算设备发送计算机可读指令,用于使得所述计算设备执行化身动画制作方法,所述方法包括:使用第一计算设备至少部分地基于根据用户的视频确定的一个或多个面部特征参数从多个预定的化身特征图像的一个或多个选择一个或多个预定的化身特征图像;至少部分地基于一个多个所选择的预定的化身特征图像生成化身图像;以及提供化身图像信息用于显示,并且在计算设备处存储所述计算机可读指令。
示例17.一种或多种计算机可读存储介质,其存储用于使得计算设备执行权利要求1-16的化身动画制作方法中的任何一个的计算机可执行指令。
示例18.至少一种计算设备,其被编程为执行权利要求1-16的化身动画制作方法中的任何一个。
示例19.至少一种计算设备,其包括执行权利要求1-16的方法中的任何一个的装置。
示例20.一种化身动画制作方法,其包括:跟踪在用户的视频中的一个或多个面部特征;以及,将化身图像信息发送到第二计算设备。
示例21.如示例20所述的方法,其中所述化身图像信息包括对一个或多个化身特征图像系列的一个或多个索引或者对一个或多个化身图像系列的一个或多个索引。
示例22.如示例20所述的方法,其中所述化身图像信息还包括化身背景图像或者化身背景图像的指示符。
示例23.一种或多种计算机可读存储介质,其存储用于使得计算设备执行权利要求20-22的化身动画制作方法中的任何一个的计算机可执行指令。
示例24.至少一种计算设备,其被编程为执行权利要求20-22的化身动画制作方法中的任何一个。
示例25.一种计算设备,其包括:面部特征跟踪模块,用以跟踪在用户的视频中的一个或多个面部特征;面部特征参数模块,用以根据一个或多个所跟踪的面部特征确定一个或多个面部特征参数;以及化身图像生成模块,用以基于所确定的一个或多个面部特征参数从一个或多个化身图像系列选择化身图像并且提供所选择的化身图像用于显示。
示例26.一种计算设备,其包括:面部特征跟踪模块,用以跟踪在用户的视频中的一个或多个面部特征;面部特征参数模块,用以根据一个或多个所跟踪的面部特征确定一个或多个面部特征参数;以及化身图像生成模块,用以基于所确定的一个或多个面部特征参数从一个或多个化身特征图像系列选择一个或多个化身特征图像,基于一个或多个所选择的化身特征图像生成化身图像,并且提供所生成的化身图像用于显示。

基于面部运动的化身动画.pdf_第1页
第1页 / 共23页
基于面部运动的化身动画.pdf_第2页
第2页 / 共23页
基于面部运动的化身动画.pdf_第3页
第3页 / 共23页
点击查看更多>>
资源描述

《基于面部运动的化身动画.pdf》由会员分享,可在线阅读,更多相关《基于面部运动的化身动画.pdf(23页珍藏版)》请在专利查询网上搜索。

使用预定的化身图像对化身制作动画,基于从用户的视频提取的用户的面部特征选择所述预定的化身图像。在实况视频中跟踪用户的面部特征,根据所跟踪的特征确定面部特征参数,并且基于所述面部特征参数选择化身图像。然后被显示的选择的图像被发送到另一设备用于显示。随着用户的面部运动改变选择和显示不同的化身图像对所述化身制作动画。可以从表示诸如说空话(bunking)的特定面部运动的一系列化身图像选择所述化身图像。也。

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 电学 > 电通信技术


copyright@ 2017-2020 zhuanlichaxun.net网站版权所有
经营许可证编号:粤ICP备2021068784号-1