多视点视频中丢失的视频数据的恢复方法、系统及设备.pdf

上传人:111****112 文档编号:1107440 上传时间:2018-03-31 格式:PDF 页数:12 大小:429.25KB
返回 下载 相关 举报
摘要
申请专利号:

CN200910236743.8

申请日:

2009.10.28

公开号:

CN102055968A

公开日:

2011.05.11

当前法律状态:

授权

有效性:

有权

法律详情:

授权|||实质审查的生效IPC(主分类):H04N 7/26申请日:20091028|||公开

IPC分类号:

H04N7/26; H04N7/64

主分类号:

H04N7/26

申请人:

中国移动通信集团公司

发明人:

黄晓伟; 袁潮

地址:

100032 北京市西城区金融大街29号

优先权:

专利代理机构:

北京同达信恒知识产权代理有限公司 11291

代理人:

郭润湘

PDF下载: PDF下载
内容摘要

本发明公开了一种多视点视频中丢失的视频数据的恢复方法、系统及设备,用以消除重建帧具有的分块效应,提升重建帧的视频质量。多视点视频中丢失的视频数据的恢复方法,包括:接收视频发送端发送的多视点视频编码码流,其中每一个视角的视频编码码流中携带本视角的摄像机参数;检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出若干备选重建帧;并从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。

权利要求书

1: 一种多视点视频中丢失的视频数据的恢复方法, 其特征在于, 包括 : 接收视频发送端发送的多视点视频编码码流, 其中每一个视角的视频编码码流中携带 本视角的摄像机参数 ; 检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时, 根据接 收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、 以及相关视角 的摄像机参数, 恢复出若干备选重建帧 ; 并 从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。
2: 如权利要求 1 所述的方法, 其特征在于, 所述根据接收到的其它视角的视频编码码 流中与丢失帧处于相同时间位置上的视频帧、 以及相关视角的摄像机参数, 恢复出若干备 选重建帧, 具体包括 : 从其它视角中选取第一视角和第二视角, 其中每一次选取出的第一视角和第二视角的 组合各不相同 ; 分别根据各次选取出的第一视角和第二视角的视频编码码流中与丢失帧处于相同时 间位置上的两个视频帧、 以及所述第一视角、 第二视角和当前正在播放视角的摄像机参数, 恢复出若干备选重建帧。
3: 如权利要求 2 所述的方法, 其特征在于, 所述第一视角从顺时针方向上与当前正在播放视角之间的夹角不大于设定的角度阈 值的各视角中选取, 所述第二视角从逆时针方向上与当前正在播放视角之间的夹角不大于 所述角度阈值的各视角中选取, 所述角度阈值小于 180 度。
4: 如权利要求 2 或 3 所述的方法, 其特征在于, 所述从恢复出的若干备选重建帧中选取 一个作为丢失帧的重建帧, 具体包括 : 如果恢复出一个备选重建帧, 选取该备选重建帧作为丢失帧的重建帧 ; 如果恢复出两个备选重建帧, 选取备选重建帧对应的第一视角和第二视角之间的夹角 较小的备选重建帧作为丢失帧的重建帧 ; 如果恢复出三个或以上备选重建帧, 分别计算每一个备选重建帧与其它备选重建帧之 间的差值之和, 选取差值之和的最小值对应的备选重建帧作为丢失帧的重建帧。
5: 如权利要求 4 所述的方法, 其特征在于, 如果差值之和的最小值对应的备选重建帧 有至少两个, 选取差值之和的最小值对应的任一备选重建帧作为丢失帧的重建帧 ; 或者, 从 差值之和的最小值对应的各备选重建帧中, 选取备选重建帧对应的第一视角和第二视角之 间的夹角最小的备选重建帧作为丢失帧的重建帧。
6: 如权利要求 4 所述的方法, 其特征在于, 备选重建帧与其它备选重建帧之间的差值 之和的计算方法, 具体包括 : 分别计算备选重建帧与每一个其它备选重建帧之间的绝对差值, 备选重建帧与任一其 它备选重建帧之间的绝对差值为备选重建帧与该其它备选重建帧中各对应像素点的亮度 值之间的差值绝对值之和 ; 将得到的各绝对差值求和, 得到备选重建帧与其它备选重建帧之间的差值之和。
7: 如权利要求 1 所述的方法, 其特征在于, 还包括 : 所述视频发送端在发送所述多视点视频编码码流之前, 根据每一个视角的视频流标定 每一个视角的摄像机参数。 2
8: 一种多视点视频中丢失的视频数据的恢复系统, 其特征在于, 包括 : 视频发送端, 用于发送多视点视频编码码流, 其中每一个视角的视频编码码流中携带 本视角的摄像机参数 ; 视频接收端, 用于接收视频发送端发送的所述多视点视频编码码流, 检测出当前正在 播放视角的视频编码码流中存在丢失了视频数据的丢失帧时, 根据接收到的其它视角的视 频编码码流中与丢失帧处于相同时间位置上的视频帧、 以及相关视角的摄像机参数, 恢复 出若干备选重建帧 ; 并从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。
9: 如权利要求 8 所述的系统, 其特征在于, 所述视频接收端, 进一步用于从其它视角中选取第一视角和第二视角, 其中每一次选 取出的第一视角和第二视角的组合各不相同 ; 分别根据各次选取出的第一视角和第二视角 的视频编码码流中与丢失帧处于相同时间位置上的两个视频帧、 以及所述第一视角、 第二 视角和当前正在播放视角的摄像机参数, 恢复出若干备选重建帧。
10: 如权利要求 9 所述的系统, 其特征在于, 所述视频接收端, 进一步用于如果恢复出一个备选重建帧, 选取该备选重建帧作为丢 失帧的重建帧 ; 如果恢复出两个备选重建帧, 选取备选重建帧对应的第一视角和第二视角 之间的夹角较小的备选重建帧作为丢失帧的重建帧 ; 如果恢复出三个或以上备选重建帧, 分别计算每一个备选重建帧与其它备选重建帧之间的差值之和, 选取差值之和的最小值对 应的备选重建帧作为丢失帧的重建帧。
11: 如权利要求 8 所述的系统, 其特征在于, 所述视频发送端, 还用于在发送所述多视点视频编码码流之前, 根据每一个视角的视 频流标定每一个视角的摄像机参数。
12: 一种视频接收端的解码设备, 其特征在于, 包括 : 接收单元, 用于接收视频发送端发送的多视点视频编码码流, 其中每一个视角的视频 编码码流中携带本视角的摄像机参数 ; 恢复单元, 用于检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的 丢失帧时, 根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频 帧、 以及相关视角的摄像机参数, 恢复出若干备选重建帧 ; 选取单元, 用于从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。
13: 如权利要求 12 所述的设备, 其特征在于, 所述恢复单元具体包括 : 视角选取子单元, 用于从其它视角中选取第一视角和第二视角, 其中每一次选取出的 第一视角和第二视角的组合各不相同 ; 重建子单元, 用于分别根据各次选取出的第一视角和第二视角的视频编码码流中与丢 失帧处于相同时间位置上的两个视频帧、 以及所述第一视角、 第二视角和当前正在播放视 角的摄像机参数, 恢复出若干备选重建帧。
14: 如权利要求 13 所述的设备, 其特征在于, 所述选取单元具体包括 : 控制子单元, 用于如果恢复单元恢复出一个备选重建帧, 触发第一选取子单元, 如果恢 复单元恢复出两个备选重建帧, 触发第二选取子单元, 如果恢复单元恢复出三个或以上备 选重建帧, 触发第三选取子单元 ; 所述第一选取子单元, 用于选取恢复单元恢复出的该备选重建帧作为丢失帧的重建 3 帧; 所述第二选取子单元, 用于选取备选重建帧对应的第一视角和第二视角之间的夹角较 小的备选重建帧作为丢失帧的重建帧 ; 所述第三选取子单元, 用于分别计算每一个备选重建帧与其它备选重建帧之间的差值 之和, 选取差值之和的最小值对应的备选重建帧作为丢失帧的重建帧。

说明书


多视点视频中丢失的视频数据的恢复方法、 系统及设备

    技术领域 本发明涉及多视点视频领域, 尤其涉及一种多视点视频中丢失的视频数据的恢复 方法、 系统及设备。
     背景技术 多视点视频是视频业务的一项重要内容, 其特点是用户可以自由地选择观看的视 角, 从而可以观看被拍摄物体 ( 场景 ) 的不同侧面。如图 1 所示, 多视点视频的实现方法是 在拍摄时通过多个角度对同一物体 ( 场景 ) 进行拍摄, 按照顺时针方向视角编号依次为 1、 2、 3...16 ; 在编码时对每一个视角的视频流分别进行编码, 得到多视点视频编码码流 ( 包 括每一个视角的视频编码码流 ) ; 在播放时需要根据用户需求对相应视角的视频编码码流 进行解码和显示。
     如图 2 所示, 为具有五个视角的多视点视频编码码流的帧结构示意图, 其中横坐 标表示时间 (t), 纵坐标表示视角编号。各帧图像定义为 I 帧、 P 帧和 B 帧三种类型, 其中 I 帧为帧内编码图像, 是只使用本帧内的数据进行编码的图像 ; P 帧为前向预测编码图像, 是 根据前面最近的 I 帧或 P 帧作为参考帧进行前向预测编码的图像 ; B 帧为双向预测编码图 像, 是根据前面和后面的 I 帧或 P 帧进行双向预测编码的图像。
     多视点视频编码码流在进行网络传输时会出现丢失视频数据的情况。 由于多视点 视频编码码流以视频帧为单位, 所以某一视频帧的部分视频数据丢失很可能导致该视频帧 无法解码 ; 并且由于视频帧的解码有依赖关系, 如果某个视角的视频编码码流中 I 帧或 P 帧 丢失 ( 全部视频数据或部分视频数据丢数 ), 将导致该视角的视频编码码流中后续视频帧 无法解码。
     现有技术中针对多视点视频编码码流中视频数据丢失的情况, 提供了对视频数据 进行处理的方案, 如果视频编码码流中存在视频数据的丢失, 则对丢失的视频数据进行预 测估计和补偿, 需要从丢失了视频数据的视频帧 ( 本申请文件中称为丢失帧 ) 的前向视频 帧中提取视频数据宏块整体复制到该丢失帧中, 得到重建帧, 从而恢复出丢失的视频数据。 该方案导致重建帧有较明显的分块效应, 重建帧的视频质量较差。
     发明内容
     本发明提供一种多视点视频中丢失的视频数据的恢复方法、 系统及设备, 用以消 除重建帧具有的分块效应, 提升重建帧的视频质量。
     本发明提供一种多视点视频中丢失的视频数据的恢复方法, 包括 :
     接收视频发送端发送的多视点视频编码码流, 其中每一个视角的视频编码码流中 携带本视角的摄像机参数 ;
     检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时, 根 据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、 以及相关 视角的摄像机参数, 恢复出若干备选重建帧 ; 并从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。
     本发明提供一种多视点视频中丢失的视频数据的恢复系统, 包括 :
     视频发送端, 用于发送多视点视频编码码流, 其中每一个视角的视频编码码流中 携带本视角的摄像机参数 ;
     视频接收端, 用于接收视频发送端发送的所述多视点视频编码码流, 检测出当前 正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时, 根据接收到的其它视角 的视频编码码流中与丢失帧处于相同时间位置上的视频帧、 以及相关视角的摄像机参数, 恢复出若干备选重建帧 ; 并从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。
     本发明提供一种视频接收端的解码设备, 包括 :
     接收单元, 用于接收视频发送端发送的多视点视频编码码流, 其中每一个视角的 视频编码码流中携带本视角的摄像机参数 ;
     恢复单元, 用于检测出当前正在播放视角的视频编码码流中存在丢失了视频数据 的丢失帧时, 根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视 频帧、 以及相关视角的摄像机参数, 恢复出若干备选重建帧 ;
     选取单元, 用于从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。 本发明提供的多视点视频中丢失的视频数据的恢复方法、 系统及设备, 视频接收 端检测出当前正在播放视角的视频编码码流中存在丢失帧时, 根据接收到的其它视角的视 频编码码流中与丢失帧处于相同时间位置上的视频帧、 以及相关视角的摄像机参数, 恢复 出若干备选重建帧, 并选取一个作为重建帧。本方案利用接收到的其它视角的视频编码码 流中与丢失帧处于相同时间位置上的视频帧, 恢复出若干个备选重建帧, 充分利用了空间 上不同视角的视频冗余信息, 有效解决了多视点视频中视频数据丢失的错误隐藏问题, 提 升了丢失帧的重建帧的视频质量 ; 该方案实现简单, 并可普遍适用于丢失了全部视频数据 或者部分视频数据的丢失帧的视频数据恢复。
     附图说明
     图 1 为现有技术中多视点视频的实现方法示意图 ; 图 2 为现有技术中多视点视频编码码流的帧结构示意图 ; 图 3 为本发明实施例中丢失的视频数据的恢复系统示意图 ; 图 4 为本发明实施例中视频接收端的编码设备的结构框图 ; 图 5 为本发明实施例中丢失的视频数据的恢复方法流程图。具体实施方式
     本发明实施例针对多视点视频编码码流中视频数据丢失的情况, 提供了一种多视 点视频中丢失的视频数据的恢复方法及系统, 用以消除重建帧具有的分块效应, 提升重建 帧的视频质量。
     首先介绍现有多视点视频的实现系统, 由视频发送端、 传输网络和视频接收端组 成。视频发送端包括摄像机采集系统和编码设备, 摄像机采集系统用于采集每一个视角的 视频流 ; 编码设备用于对摄像机采集系统采集到的每一个视角的视频流分别进行编码, 得 到多视点视频编码码流, 多视点视频编码码流包括每一个视角的视频编码码流。视频接收端包括解码设备和显示设备, 解码设备用于接收多视点视频编码码流, 根据用户需求对相 应视角的视频编码码流进行解码 ; 显示设备用于显示解码设备解码后得到的视频图像。
     本发明实施例为了恢复多视点视频中丢失的视频数据, 对视频发送端和视频接收 端进行了如下改进 :
     对于视频发送端来说, 视频发送端发送的多视点视频编码码流, 其中每一个视角 的视频编码码流中携带本视角的摄像机参数。 视频发送端的改进可以通过对编码设备进行 相应改造实现。
     具体实施中, 视频发送端在发送所述多视点视频编码码流之前, 可以根据每一个 视角的视频流通过摄像机标定方法标定每一个视角的摄像机参数 ( 包括内部参数和外部 参数 )。 多视点视频编码码流中携带的每一个视角的摄像机参数也可以通过其它方式获得, 例如预先配置。
     摄像机采集系统在对同一物体 ( 场景 ) 进行多个角度的拍摄时, 由每一个视角的 摄像机成像几何模型决定空间物点与该视角的二维像点之间的对应关系, 摄像机成像几何 模型参数即摄像机参数。空间物点坐标与二维像点坐标之间的关系如公式 [1] 所示 :
     Xp = M1M2Xw [1] 其中, Xw 表示空间物点坐标, Xp 表示二维像点坐标, M1 表示摄像机内部参数, M2 表 示摄像机外部参数。
     摄像机标定是确定摄像机参数的一个过程, 即确定摄像机的内部几何和光学参数 ( 内部参数 ) 和确定摄像机坐标系相对世界坐标系的三维位置和方向关系 ( 外部参数 )。
     对于视频接收端来说, 检测出当前正在播放视角的视频编码码流中存在丢失了视 频数据的丢失帧时, 根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置 上的视频帧、 以及相关视角的摄像机参数, 恢复出丢失帧的重建帧。 视频接收端的改进可以 通过对解码设备进行相应改造实现。
     基于以上分析, 本发明实施例提供了一种多视点视频中丢失的视频数据的恢复系 统, 如图 3 所示, 包括 :
     视频发送端 301, 用于发送多视点视频编码码流, 其中每一个视角的视频编码码流 中携带本视角的摄像机参数 ;
     视频接收端 302, 用于接收视频发送端 301 发送的该多视点视频编码码流, 检测出 当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时, 根据接收到的其它 视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、 以及相关视角的摄像机参 数, 恢复出若干备选重建帧 ; 并从恢复出的若干备选重建帧中选取一个作为丢失帧的重建 帧。
     具体实施中, 视频接收端 302, 进一步用于从其它视角选取第一视角和第二视角, 其中每一次选取出的第一视角和第二视角的组合各不相同 ; 分别根据各次选取出的第一视 角和第二视角的视频编码码流中与丢失帧处于相同时间位置上的两个视频帧、 以及所述第 一视角、 第二视角和当前正在播放视角的摄像机参数, 恢复出若干备选重建帧。
     具体实施中, 视频接收端 302, 进一步用于如果恢复出一个备选重建帧, 选取该备 选重建帧作为丢失帧的重建帧 ; 如果恢复出两个备选重建帧, 选取备选重建帧对应的第一 视角和第二视角之间的夹角较小的备选重建帧作为丢失帧的重建帧 ; 如果恢复出三个或以
     上备选重建帧, 分别计算每一个备选重建帧与其它备选重建帧之间的差值之和, 选取差值 之和的最小值对应的备选重建帧作为丢失帧的重建帧。
     具体实施中, 视频发送端 301, 还用于在发送该多视点视频编码码流之前, 根据每 一个视角的视频流标定每一个视角的摄像机参数。
     视频接收端的改进可以通过对解码设备进行相应改造实现, 本发明实施例同时提 供了一种视频接收端的解码设备的可能结构, 如图 4 所示, 包括 :
     接收单元 401, 用于接收视频发送端发送的多视点视频编码码流, 其中每一个视角 的视频编码码流中携带本视角的摄像机参数 ;
     恢复单元 402, 用于检测出当前正在播放视角的视频编码码流中存在丢失了视频 数据的丢失帧时, 根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上 的视频帧、 以及相关视角的摄像机参数, 恢复出若干备选重建帧 ;
     选取单元 403, 用于从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。
     具体实施中, 恢复单元 402 具体可以包括 :
     视角选取子单元 4021, 用于从其它视角选取第一视角和第二视角, 其中每一次选 取出的第一视角和第二视角的组合各不相同 ; 重建子单元 4022, 用于分别根据各次选取出的第一视角和第二视角的视频编码码 流中与丢失帧处于相同时间位置上的两个视频帧、 以及所述第一视角、 第二视角和当前正 在播放视角的摄像机参数, 恢复出若干备选重建帧。
     具体实施中, 选取单元 403 具体可以包括 :
     控制子单元 4031, 用于如果恢复单元恢复出一个备选重建帧, 触发第一选取子单 元 4032, 如果恢复单元恢复出两个备选重建帧, 触发第二选取子单元 4033, 如果恢复单元 恢复出三个或以上备选重建帧, 触发第三选取子单元 4034 ;
     第一选取子单元 4032, 用于选取恢复单元恢复出的该备选重建帧作为丢失帧的重 建帧 ;
     第二选取子单元 4033, 用于选取备选重建帧对应的第一视角和第二视角之间的夹 角较小的备选重建帧作为丢失帧的重建帧 ;
     第三选取子单元 4034, 用于分别计算每一个备选重建帧与其它备选重建帧之间的 差值之和, 选取差值之和的最小值对应的备选重建帧作为丢失帧的重建帧。
     基于同一技术构思, 本发明实施例提供了一种多视点视频中丢失的视频数据的恢 复方法, 如图 5 所示, 包括 :
     S501、 接收视频发送端发送的多视点视频编码码流, 其中每一个视角的视频编码 码流中携带本视角的摄像机参数 ;
     S502、 检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧 时, 根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、 以 及相关视角的摄像机参数, 恢复出若干备选重建帧 ;
     具体实施中, 从其它视角中选取第一视角和第二视角, 其中每一次选取出的第一 视角和第二视角的组合各不相同 ; 分别根据各次选取出的第一视角和第二视角的视频编码 码流中与丢失帧处于相同时间位置上的两个视频帧、 以及该第一视角、 第二视角和当前正 在播放视角的摄像机参数, 恢复出若干备选重建帧。由于空间物点坐标与每一个视角的二
     维像点坐标之间存在如下关系 Xp = M1M2Xw, 根据第一视角和第二视角中与丢失帧处于相同 时间位置上的两个视频帧的视频数据, 以及第一视角、 第二视角以及当前正在播放视角的 摄像机参数, 利用公式 Xp = M1M2Xw, 采用现有的中间视图生成方法即可计算出当前正在播 放视角中丢失帧的视频数据, 从而恢复出备选重建帧。
     由于多视点视频中有至少三个视角, 则当前正在播放视角之外的接收到的其它视 角有至少两个, 从至少两个其它视角中每次选取两个视角用于恢复备选重建帧, 并保证每 次选取的两个视角的组合各不相同, 可以有至少一种选取方案, 从而恢复出的备选重建帧 有至少一个。 当前正在播放视角之外的接收到的其它视角的数量与恢复出的备选重建帧的 数量之间存在如下关系, 如公式 [2] 所示 :
     其中, S 表示恢复出的备选重建帧的数量, N 表示接收到的其它视角的数量。
     较佳的, 为了保证选取出的两个视角在当前正在播放视角的两侧, 使得恢复出的 备选重建帧接近于原丢失帧, 第一视角从顺时针方向上与当前正在播放视角之间的夹角不 大于设定的角度阈值的各视角中选取, 第二视角从逆时针方向上与当前正在播放视角之间 的夹角不大于角度阈值的各视角中选取, 其中角度阈值小于 180 度。 如图 1 所示的多视频编 码码流中, 假设当前正在播放视角为视角 1, 较佳的, 选取出的两个视角为视角 16 和视角 2、 视角 3 和视角 15、 视角 4 和视角 16 等, 一般不选取视角 2 和视角 3、 视角 15 和视角 16 等。
     S503、 从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。 具体实施中, 可以根据恢复出的备选重建帧的数量, 采取不同的选取重建帧的策略: 如果恢复出一个备选重建帧, 选取该备选重建帧作为丢失帧的重建帧。
     如果恢复出两个备选重建帧, 选取备选重建帧对应的第一视角和第二视角之间的 夹角较小的备选重建帧作为丢失帧的重建帧。 假设两个备选重建帧分别为 Pr14、 Pr24, Pr14 对应的第一视角和第二视角分别为视角 1 和视角 4、 Pr24 视角 2 和视角 4, 选取备选重建帧 对应的第一视角和第二视角之间的夹角较小的备选重建帧 Pr24 作为丢失帧的重建帧, 所 述的夹角均是指锐角。
     如果恢复出三个或以上备选重建帧, 分别计算每一个备选重建帧与其它备选重建 帧之间的差值之和, 选取差值之和的最小值对应的备选重建帧作为丢失帧的重建帧 ; 进一 步, 如果差值之和的最小值对应的备选重建帧有至少两个, 选取差值之和的最小值对应的 任一备选重建帧作为丢失帧的重建帧, 或者, 从差值之和的最小值对应的各备选重建帧中, 选取备选重建帧对应的第一视角和第二视角之间的夹角最小的备选重建帧作为丢失帧的 重建帧。
     具体的, 每一个备选重建帧与其它备选重建帧之间的差值之和的计算方法包括 : 分别计算备选重建帧与每一个其它备选重建帧之间的绝对差值, 备选重建帧与任一其它备 选重建帧之间的绝对差值为备选重建帧与该其它备选重建帧中各对应像素点的亮度值之 间的差值绝对值之和 ; 将得到的各绝对差值求和, 得到备选重建帧与其它备选重建帧之间 的差值之和。
     举例进行说明。如图 2 所示的多视点视频编码码流的帧结构示意图, 多视点视频
     包括五个视角, 每一个视角独立编解码。假设当前正在播放的视角为视角 4, 视角 4 的视频 帧 P[4][3] 中丢失了全部或者部分视频数据, 则 P[4][3] 即为丢失帧, 后续处理流程包括 :
     从接收到的其它视角 ( 视角 1、 视角 2、 视角 3 和视角 5) 中选取第一视角和第二视 角, 并保证选取出的两个视角在当前正在播放视角 ( 视角 4) 的两侧, 则选取出的第一视角 和第二视角的组合分别为视角 3 和视角 5、 视角 2 和视角 5、 视角 1 和视角 5。
     根据视角 3 和视角 5 中与丢失帧 P[4][3] 处于相同时间位置上的视频帧 P[3][3] 和 P[5][3]、 以及视角 3、 视角 5 和视角 4 的摄像机参数, 可以恢复出备选重建帧 Pr35 ; 根据 视角 2 和视角 5 中与丢失帧 P[4][3] 处于相同时间位置上的视频帧 P[2][3]、 P[5][3]、 以 及视角 2、 视角 5 和视角 4 的摄像机参数, 可以恢复出备选重建帧 Pr25 ; 根据视角 1 和视角 5 中与丢失帧 P[4][3] 处于相同时间位置上的视频帧 P[1][3]、 P[5][3]、 以及视角 1、 视角 5 和视角 4 的摄像机参数, 可以恢复出备选重建帧 Pr15。
     由于恢复出三个备选重建帧 Pr35、 Pr25、 Pr15, 需要从 Pr35、 Pr25、 Pr15 中选取一 个作为丢失帧 P[4][3] 的重建帧, 具体的分别计算每一个备选重建帧与其它备选重建帧之 间的差值之和, 选取差值之和的最小值对应的备选重建帧作为丢失帧的重建帧 ;
     对于 Pr35, 首先计算 Pr35 与 Pr25、 Pr15 的绝对差值 SADr25_r35、 SADr15_r35, 再 将绝对差值相加得到 Pr35 与 Pr25、 Pr15 之间的差值之和即 SADr35 = SADr25_r35+SADr15_ r35 ; 对于 Pr25, 首先计算 Pr25 与 Pr35、 Pr15 的绝对差值 SADr35_r25、 SADr15_r25, 再将绝 对差值相加得到 Pr25 与 Pr35、 Pr15 之间的差值之和即 SADr25 = SADr35_r25+SADr15_r25 ; 对于 Pr15, 首先计算 Pr15 与 Pr35、 Pr25 的绝对差值 SADr35_r15、 SADr25_r15, 再将绝对差 值相加得到 Pr15 与 Pr35、 Pr25 之间的差值之和即 SADr15 = SADr35_r15+SADr25_r15 ; 选 取 SADr15、 SADr25、 SADr35 中的最小值对应的备选重建帧作为丢失帧 P[4][3] 的重建帧, 假 设最小值为 SADr35, 则选取备选重建帧 Pr35 作为丢失帧 P[4][3] 的重建帧。
     本发明提供的多视点视频中丢失的视频数据的恢复方法、 系统及设备, 视频接收 端检测出当前正在播放视角的视频编码码流中存在丢失帧时, 根据接收到的其它视角的视 频编码码流中与丢失帧处于相同时间位置上的视频帧、 以及相关视角的摄像机参数, 恢复 出若干备选重建帧, 并选取一个作为重建帧。本方案利用接收到的其它视角的视频编码码 流中与丢失帧处于相同时间位置上的视频帧, 恢复出若干个备选重建帧, 充分利用了空间 上不同视角的视频冗余信息, 有效解决了多视点视频中视频数据丢失的错误隐藏问题, 提 升了丢失帧的重建帧的视频质量 ; 该方案实现简单, 并可普遍适用于丢失了全部视频数据 或者部分视频数据的丢失帧的视频数据恢复。
     显然, 本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精 神和范围。这样, 倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围 之内, 则本发明也意图包含这些改动和变型在内。

多视点视频中丢失的视频数据的恢复方法、系统及设备.pdf_第1页
第1页 / 共12页
多视点视频中丢失的视频数据的恢复方法、系统及设备.pdf_第2页
第2页 / 共12页
多视点视频中丢失的视频数据的恢复方法、系统及设备.pdf_第3页
第3页 / 共12页
点击查看更多>>
资源描述

《多视点视频中丢失的视频数据的恢复方法、系统及设备.pdf》由会员分享,可在线阅读,更多相关《多视点视频中丢失的视频数据的恢复方法、系统及设备.pdf(12页珍藏版)》请在专利查询网上搜索。

1、10申请公布号CN102055968A43申请公布日20110511CN102055968ACN102055968A21申请号200910236743822申请日20091028H04N7/26200601H04N7/6420060171申请人中国移动通信集团公司地址100032北京市西城区金融大街29号72发明人黄晓伟袁潮74专利代理机构北京同达信恒知识产权代理有限公司11291代理人郭润湘54发明名称多视点视频中丢失的视频数据的恢复方法、系统及设备57摘要本发明公开了一种多视点视频中丢失的视频数据的恢复方法、系统及设备,用以消除重建帧具有的分块效应,提升重建帧的视频质量。多视点视频中丢失的。

2、视频数据的恢复方法,包括接收视频发送端发送的多视点视频编码码流,其中每一个视角的视频编码码流中携带本视角的摄像机参数;检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出若干备选重建帧;并从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。51INTCL19中华人民共和国国家知识产权局12发明专利申请权利要求书3页说明书6页附图2页CN102055975A1/3页21一种多视点视频中丢失的视频数据的恢复方法,其特征在于,包括接收视频发送端发送的多视点视频编码码流,其中每一个。

3、视角的视频编码码流中携带本视角的摄像机参数;检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出若干备选重建帧;并从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。2如权利要求1所述的方法,其特征在于,所述根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出若干备选重建帧,具体包括从其它视角中选取第一视角和第二视角,其中每一次选取出的第一视角和第二视角的组合各不相同;分别根据各次选取出的第一视角和第二视角的视频编码码流中。

4、与丢失帧处于相同时间位置上的两个视频帧、以及所述第一视角、第二视角和当前正在播放视角的摄像机参数,恢复出若干备选重建帧。3如权利要求2所述的方法,其特征在于,所述第一视角从顺时针方向上与当前正在播放视角之间的夹角不大于设定的角度阈值的各视角中选取,所述第二视角从逆时针方向上与当前正在播放视角之间的夹角不大于所述角度阈值的各视角中选取,所述角度阈值小于180度。4如权利要求2或3所述的方法,其特征在于,所述从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧,具体包括如果恢复出一个备选重建帧,选取该备选重建帧作为丢失帧的重建帧;如果恢复出两个备选重建帧,选取备选重建帧对应的第一视角和第二视角之间。

5、的夹角较小的备选重建帧作为丢失帧的重建帧;如果恢复出三个或以上备选重建帧,分别计算每一个备选重建帧与其它备选重建帧之间的差值之和,选取差值之和的最小值对应的备选重建帧作为丢失帧的重建帧。5如权利要求4所述的方法,其特征在于,如果差值之和的最小值对应的备选重建帧有至少两个,选取差值之和的最小值对应的任一备选重建帧作为丢失帧的重建帧;或者,从差值之和的最小值对应的各备选重建帧中,选取备选重建帧对应的第一视角和第二视角之间的夹角最小的备选重建帧作为丢失帧的重建帧。6如权利要求4所述的方法,其特征在于,备选重建帧与其它备选重建帧之间的差值之和的计算方法,具体包括分别计算备选重建帧与每一个其它备选重建帧。

6、之间的绝对差值,备选重建帧与任一其它备选重建帧之间的绝对差值为备选重建帧与该其它备选重建帧中各对应像素点的亮度值之间的差值绝对值之和;将得到的各绝对差值求和,得到备选重建帧与其它备选重建帧之间的差值之和。7如权利要求1所述的方法,其特征在于,还包括所述视频发送端在发送所述多视点视频编码码流之前,根据每一个视角的视频流标定每一个视角的摄像机参数。权利要求书CN102055968ACN102055975A2/3页38一种多视点视频中丢失的视频数据的恢复系统,其特征在于,包括视频发送端,用于发送多视点视频编码码流,其中每一个视角的视频编码码流中携带本视角的摄像机参数;视频接收端,用于接收视频发送端发。

7、送的所述多视点视频编码码流,检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出若干备选重建帧;并从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。9如权利要求8所述的系统,其特征在于,所述视频接收端,进一步用于从其它视角中选取第一视角和第二视角,其中每一次选取出的第一视角和第二视角的组合各不相同;分别根据各次选取出的第一视角和第二视角的视频编码码流中与丢失帧处于相同时间位置上的两个视频帧、以及所述第一视角、第二视角和当前正在播放视角的摄像机参数,恢复出若干备选重建帧。1。

8、0如权利要求9所述的系统,其特征在于,所述视频接收端,进一步用于如果恢复出一个备选重建帧,选取该备选重建帧作为丢失帧的重建帧;如果恢复出两个备选重建帧,选取备选重建帧对应的第一视角和第二视角之间的夹角较小的备选重建帧作为丢失帧的重建帧;如果恢复出三个或以上备选重建帧,分别计算每一个备选重建帧与其它备选重建帧之间的差值之和,选取差值之和的最小值对应的备选重建帧作为丢失帧的重建帧。11如权利要求8所述的系统,其特征在于,所述视频发送端,还用于在发送所述多视点视频编码码流之前,根据每一个视角的视频流标定每一个视角的摄像机参数。12一种视频接收端的解码设备,其特征在于,包括接收单元,用于接收视频发送端。

9、发送的多视点视频编码码流,其中每一个视角的视频编码码流中携带本视角的摄像机参数;恢复单元,用于检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出若干备选重建帧;选取单元,用于从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。13如权利要求12所述的设备,其特征在于,所述恢复单元具体包括视角选取子单元,用于从其它视角中选取第一视角和第二视角,其中每一次选取出的第一视角和第二视角的组合各不相同;重建子单元,用于分别根据各次选取出的第一视角和第二视角的视频编码码流中与丢失帧处。

10、于相同时间位置上的两个视频帧、以及所述第一视角、第二视角和当前正在播放视角的摄像机参数,恢复出若干备选重建帧。14如权利要求13所述的设备,其特征在于,所述选取单元具体包括控制子单元,用于如果恢复单元恢复出一个备选重建帧,触发第一选取子单元,如果恢复单元恢复出两个备选重建帧,触发第二选取子单元,如果恢复单元恢复出三个或以上备选重建帧,触发第三选取子单元;所述第一选取子单元,用于选取恢复单元恢复出的该备选重建帧作为丢失帧的重建权利要求书CN102055968ACN102055975A3/3页4帧;所述第二选取子单元,用于选取备选重建帧对应的第一视角和第二视角之间的夹角较小的备选重建帧作为丢失帧的。

11、重建帧;所述第三选取子单元,用于分别计算每一个备选重建帧与其它备选重建帧之间的差值之和,选取差值之和的最小值对应的备选重建帧作为丢失帧的重建帧。权利要求书CN102055968ACN102055975A1/6页5多视点视频中丢失的视频数据的恢复方法、系统及设备技术领域0001本发明涉及多视点视频领域,尤其涉及一种多视点视频中丢失的视频数据的恢复方法、系统及设备。背景技术0002多视点视频是视频业务的一项重要内容,其特点是用户可以自由地选择观看的视角,从而可以观看被拍摄物体场景的不同侧面。如图1所示,多视点视频的实现方法是在拍摄时通过多个角度对同一物体场景进行拍摄,按照顺时针方向视角编号依次为1。

12、、2、316;在编码时对每一个视角的视频流分别进行编码,得到多视点视频编码码流包括每一个视角的视频编码码流;在播放时需要根据用户需求对相应视角的视频编码码流进行解码和显示。0003如图2所示,为具有五个视角的多视点视频编码码流的帧结构示意图,其中横坐标表示时间T,纵坐标表示视角编号。各帧图像定义为I帧、P帧和B帧三种类型,其中I帧为帧内编码图像,是只使用本帧内的数据进行编码的图像;P帧为前向预测编码图像,是根据前面最近的I帧或P帧作为参考帧进行前向预测编码的图像;B帧为双向预测编码图像,是根据前面和后面的I帧或P帧进行双向预测编码的图像。0004多视点视频编码码流在进行网络传输时会出现丢失视频。

13、数据的情况。由于多视点视频编码码流以视频帧为单位,所以某一视频帧的部分视频数据丢失很可能导致该视频帧无法解码;并且由于视频帧的解码有依赖关系,如果某个视角的视频编码码流中I帧或P帧丢失全部视频数据或部分视频数据丢数,将导致该视角的视频编码码流中后续视频帧无法解码。0005现有技术中针对多视点视频编码码流中视频数据丢失的情况,提供了对视频数据进行处理的方案,如果视频编码码流中存在视频数据的丢失,则对丢失的视频数据进行预测估计和补偿,需要从丢失了视频数据的视频帧本申请文件中称为丢失帧的前向视频帧中提取视频数据宏块整体复制到该丢失帧中,得到重建帧,从而恢复出丢失的视频数据。该方案导致重建帧有较明显的。

14、分块效应,重建帧的视频质量较差。发明内容0006本发明提供一种多视点视频中丢失的视频数据的恢复方法、系统及设备,用以消除重建帧具有的分块效应,提升重建帧的视频质量。0007本发明提供一种多视点视频中丢失的视频数据的恢复方法,包括0008接收视频发送端发送的多视点视频编码码流,其中每一个视角的视频编码码流中携带本视角的摄像机参数;0009检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出若干备选重建帧;并说明书CN102055968ACN102055975A2/6页60010。

15、从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。0011本发明提供一种多视点视频中丢失的视频数据的恢复系统,包括0012视频发送端,用于发送多视点视频编码码流,其中每一个视角的视频编码码流中携带本视角的摄像机参数;0013视频接收端,用于接收视频发送端发送的所述多视点视频编码码流,检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出若干备选重建帧;并从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。0014本发明提供一种视频接收端的解码设备,包括0015接收单元,用。

16、于接收视频发送端发送的多视点视频编码码流,其中每一个视角的视频编码码流中携带本视角的摄像机参数;0016恢复单元,用于检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出若干备选重建帧;0017选取单元,用于从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。0018本发明提供的多视点视频中丢失的视频数据的恢复方法、系统及设备,视频接收端检测出当前正在播放视角的视频编码码流中存在丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的。

17、摄像机参数,恢复出若干备选重建帧,并选取一个作为重建帧。本方案利用接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧,恢复出若干个备选重建帧,充分利用了空间上不同视角的视频冗余信息,有效解决了多视点视频中视频数据丢失的错误隐藏问题,提升了丢失帧的重建帧的视频质量;该方案实现简单,并可普遍适用于丢失了全部视频数据或者部分视频数据的丢失帧的视频数据恢复。附图说明0019图1为现有技术中多视点视频的实现方法示意图;0020图2为现有技术中多视点视频编码码流的帧结构示意图;0021图3为本发明实施例中丢失的视频数据的恢复系统示意图;0022图4为本发明实施例中视频接收端的编码设备的结构。

18、框图;0023图5为本发明实施例中丢失的视频数据的恢复方法流程图。具体实施方式0024本发明实施例针对多视点视频编码码流中视频数据丢失的情况,提供了一种多视点视频中丢失的视频数据的恢复方法及系统,用以消除重建帧具有的分块效应,提升重建帧的视频质量。0025首先介绍现有多视点视频的实现系统,由视频发送端、传输网络和视频接收端组成。视频发送端包括摄像机采集系统和编码设备,摄像机采集系统用于采集每一个视角的视频流;编码设备用于对摄像机采集系统采集到的每一个视角的视频流分别进行编码,得到多视点视频编码码流,多视点视频编码码流包括每一个视角的视频编码码流。视频接收说明书CN102055968ACN102。

19、055975A3/6页7端包括解码设备和显示设备,解码设备用于接收多视点视频编码码流,根据用户需求对相应视角的视频编码码流进行解码;显示设备用于显示解码设备解码后得到的视频图像。0026本发明实施例为了恢复多视点视频中丢失的视频数据,对视频发送端和视频接收端进行了如下改进0027对于视频发送端来说,视频发送端发送的多视点视频编码码流,其中每一个视角的视频编码码流中携带本视角的摄像机参数。视频发送端的改进可以通过对编码设备进行相应改造实现。0028具体实施中,视频发送端在发送所述多视点视频编码码流之前,可以根据每一个视角的视频流通过摄像机标定方法标定每一个视角的摄像机参数包括内部参数和外部参数。。

20、多视点视频编码码流中携带的每一个视角的摄像机参数也可以通过其它方式获得,例如预先配置。0029摄像机采集系统在对同一物体场景进行多个角度的拍摄时,由每一个视角的摄像机成像几何模型决定空间物点与该视角的二维像点之间的对应关系,摄像机成像几何模型参数即摄像机参数。空间物点坐标与二维像点坐标之间的关系如公式1所示0030XPM1M2XW10031其中,XW表示空间物点坐标,XP表示二维像点坐标,M1表示摄像机内部参数,M2表示摄像机外部参数。0032摄像机标定是确定摄像机参数的一个过程,即确定摄像机的内部几何和光学参数内部参数和确定摄像机坐标系相对世界坐标系的三维位置和方向关系外部参数。0033对于。

21、视频接收端来说,检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出丢失帧的重建帧。视频接收端的改进可以通过对解码设备进行相应改造实现。0034基于以上分析,本发明实施例提供了一种多视点视频中丢失的视频数据的恢复系统,如图3所示,包括0035视频发送端301,用于发送多视点视频编码码流,其中每一个视角的视频编码码流中携带本视角的摄像机参数;0036视频接收端302,用于接收视频发送端301发送的该多视点视频编码码流,检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢。

22、失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出若干备选重建帧;并从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。0037具体实施中,视频接收端302,进一步用于从其它视角选取第一视角和第二视角,其中每一次选取出的第一视角和第二视角的组合各不相同;分别根据各次选取出的第一视角和第二视角的视频编码码流中与丢失帧处于相同时间位置上的两个视频帧、以及所述第一视角、第二视角和当前正在播放视角的摄像机参数,恢复出若干备选重建帧。0038具体实施中,视频接收端302,进一步用于如果恢复出一个备选重建帧,选取该备选重建帧作为丢失帧的重建帧。

23、;如果恢复出两个备选重建帧,选取备选重建帧对应的第一视角和第二视角之间的夹角较小的备选重建帧作为丢失帧的重建帧;如果恢复出三个或以说明书CN102055968ACN102055975A4/6页8上备选重建帧,分别计算每一个备选重建帧与其它备选重建帧之间的差值之和,选取差值之和的最小值对应的备选重建帧作为丢失帧的重建帧。0039具体实施中,视频发送端301,还用于在发送该多视点视频编码码流之前,根据每一个视角的视频流标定每一个视角的摄像机参数。0040视频接收端的改进可以通过对解码设备进行相应改造实现,本发明实施例同时提供了一种视频接收端的解码设备的可能结构,如图4所示,包括0041接收单元40。

24、1,用于接收视频发送端发送的多视点视频编码码流,其中每一个视角的视频编码码流中携带本视角的摄像机参数;0042恢复单元402,用于检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出若干备选重建帧;0043选取单元403,用于从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。0044具体实施中,恢复单元402具体可以包括0045视角选取子单元4021,用于从其它视角选取第一视角和第二视角,其中每一次选取出的第一视角和第二视角的组合各不相同;0046重建子单元4022,用于。

25、分别根据各次选取出的第一视角和第二视角的视频编码码流中与丢失帧处于相同时间位置上的两个视频帧、以及所述第一视角、第二视角和当前正在播放视角的摄像机参数,恢复出若干备选重建帧。0047具体实施中,选取单元403具体可以包括0048控制子单元4031,用于如果恢复单元恢复出一个备选重建帧,触发第一选取子单元4032,如果恢复单元恢复出两个备选重建帧,触发第二选取子单元4033,如果恢复单元恢复出三个或以上备选重建帧,触发第三选取子单元4034;0049第一选取子单元4032,用于选取恢复单元恢复出的该备选重建帧作为丢失帧的重建帧;0050第二选取子单元4033,用于选取备选重建帧对应的第一视角和第。

26、二视角之间的夹角较小的备选重建帧作为丢失帧的重建帧;0051第三选取子单元4034,用于分别计算每一个备选重建帧与其它备选重建帧之间的差值之和,选取差值之和的最小值对应的备选重建帧作为丢失帧的重建帧。0052基于同一技术构思,本发明实施例提供了一种多视点视频中丢失的视频数据的恢复方法,如图5所示,包括0053S501、接收视频发送端发送的多视点视频编码码流,其中每一个视角的视频编码码流中携带本视角的摄像机参数;0054S502、检测出当前正在播放视角的视频编码码流中存在丢失了视频数据的丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢。

27、复出若干备选重建帧;0055具体实施中,从其它视角中选取第一视角和第二视角,其中每一次选取出的第一视角和第二视角的组合各不相同;分别根据各次选取出的第一视角和第二视角的视频编码码流中与丢失帧处于相同时间位置上的两个视频帧、以及该第一视角、第二视角和当前正在播放视角的摄像机参数,恢复出若干备选重建帧。由于空间物点坐标与每一个视角的二说明书CN102055968ACN102055975A5/6页9维像点坐标之间存在如下关系XPM1M2XW,根据第一视角和第二视角中与丢失帧处于相同时间位置上的两个视频帧的视频数据,以及第一视角、第二视角以及当前正在播放视角的摄像机参数,利用公式XPM1M2XW,采用。

28、现有的中间视图生成方法即可计算出当前正在播放视角中丢失帧的视频数据,从而恢复出备选重建帧。0056由于多视点视频中有至少三个视角,则当前正在播放视角之外的接收到的其它视角有至少两个,从至少两个其它视角中每次选取两个视角用于恢复备选重建帧,并保证每次选取的两个视角的组合各不相同,可以有至少一种选取方案,从而恢复出的备选重建帧有至少一个。当前正在播放视角之外的接收到的其它视角的数量与恢复出的备选重建帧的数量之间存在如下关系,如公式2所示00570058其中,S表示恢复出的备选重建帧的数量,N表示接收到的其它视角的数量。0059较佳的,为了保证选取出的两个视角在当前正在播放视角的两侧,使得恢复出的备。

29、选重建帧接近于原丢失帧,第一视角从顺时针方向上与当前正在播放视角之间的夹角不大于设定的角度阈值的各视角中选取,第二视角从逆时针方向上与当前正在播放视角之间的夹角不大于角度阈值的各视角中选取,其中角度阈值小于180度。如图1所示的多视频编码码流中,假设当前正在播放视角为视角1,较佳的,选取出的两个视角为视角16和视角2、视角3和视角15、视角4和视角16等,一般不选取视角2和视角3、视角15和视角16等。0060S503、从恢复出的若干备选重建帧中选取一个作为丢失帧的重建帧。0061具体实施中,可以根据恢复出的备选重建帧的数量,采取不同的选取重建帧的策略0062如果恢复出一个备选重建帧,选取该备。

30、选重建帧作为丢失帧的重建帧。0063如果恢复出两个备选重建帧,选取备选重建帧对应的第一视角和第二视角之间的夹角较小的备选重建帧作为丢失帧的重建帧。假设两个备选重建帧分别为PR14、PR24,PR14对应的第一视角和第二视角分别为视角1和视角4、PR24视角2和视角4,选取备选重建帧对应的第一视角和第二视角之间的夹角较小的备选重建帧PR24作为丢失帧的重建帧,所述的夹角均是指锐角。0064如果恢复出三个或以上备选重建帧,分别计算每一个备选重建帧与其它备选重建帧之间的差值之和,选取差值之和的最小值对应的备选重建帧作为丢失帧的重建帧;进一步,如果差值之和的最小值对应的备选重建帧有至少两个,选取差值之。

31、和的最小值对应的任一备选重建帧作为丢失帧的重建帧,或者,从差值之和的最小值对应的各备选重建帧中,选取备选重建帧对应的第一视角和第二视角之间的夹角最小的备选重建帧作为丢失帧的重建帧。0065具体的,每一个备选重建帧与其它备选重建帧之间的差值之和的计算方法包括分别计算备选重建帧与每一个其它备选重建帧之间的绝对差值,备选重建帧与任一其它备选重建帧之间的绝对差值为备选重建帧与该其它备选重建帧中各对应像素点的亮度值之间的差值绝对值之和;将得到的各绝对差值求和,得到备选重建帧与其它备选重建帧之间的差值之和。0066举例进行说明。如图2所示的多视点视频编码码流的帧结构示意图,多视点视频说明书CN102055。

32、968ACN102055975A6/6页10包括五个视角,每一个视角独立编解码。假设当前正在播放的视角为视角4,视角4的视频帧P43中丢失了全部或者部分视频数据,则P43即为丢失帧,后续处理流程包括0067从接收到的其它视角视角1、视角2、视角3和视角5中选取第一视角和第二视角,并保证选取出的两个视角在当前正在播放视角视角4的两侧,则选取出的第一视角和第二视角的组合分别为视角3和视角5、视角2和视角5、视角1和视角5。0068根据视角3和视角5中与丢失帧P43处于相同时间位置上的视频帧P33和P53、以及视角3、视角5和视角4的摄像机参数,可以恢复出备选重建帧PR35;根据视角2和视角5中与丢。

33、失帧P43处于相同时间位置上的视频帧P23、P53、以及视角2、视角5和视角4的摄像机参数,可以恢复出备选重建帧PR25;根据视角1和视角5中与丢失帧P43处于相同时间位置上的视频帧P13、P53、以及视角1、视角5和视角4的摄像机参数,可以恢复出备选重建帧PR15。0069由于恢复出三个备选重建帧PR35、PR25、PR15,需要从PR35、PR25、PR15中选取一个作为丢失帧P43的重建帧,具体的分别计算每一个备选重建帧与其它备选重建帧之间的差值之和,选取差值之和的最小值对应的备选重建帧作为丢失帧的重建帧;0070对于PR35,首先计算PR35与PR25、PR15的绝对差值SADR25_。

34、R35、SADR15_R35,再将绝对差值相加得到PR35与PR25、PR15之间的差值之和即SADR35SADR25_R35SADR15_R35;对于PR25,首先计算PR25与PR35、PR15的绝对差值SADR35_R25、SADR15_R25,再将绝对差值相加得到PR25与PR35、PR15之间的差值之和即SADR25SADR35_R25SADR15_R25;对于PR15,首先计算PR15与PR35、PR25的绝对差值SADR35_R15、SADR25_R15,再将绝对差值相加得到PR15与PR35、PR25之间的差值之和即SADR15SADR35_R15SADR25_R15;选取SA。

35、DR15、SADR25、SADR35中的最小值对应的备选重建帧作为丢失帧P43的重建帧,假设最小值为SADR35,则选取备选重建帧PR35作为丢失帧P43的重建帧。0071本发明提供的多视点视频中丢失的视频数据的恢复方法、系统及设备,视频接收端检测出当前正在播放视角的视频编码码流中存在丢失帧时,根据接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧、以及相关视角的摄像机参数,恢复出若干备选重建帧,并选取一个作为重建帧。本方案利用接收到的其它视角的视频编码码流中与丢失帧处于相同时间位置上的视频帧,恢复出若干个备选重建帧,充分利用了空间上不同视角的视频冗余信息,有效解决了多视点视频中视频数据丢失的错误隐藏问题,提升了丢失帧的重建帧的视频质量;该方案实现简单,并可普遍适用于丢失了全部视频数据或者部分视频数据的丢失帧的视频数据恢复。0072显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。说明书CN102055968ACN102055975A1/2页11图1图2说明书附图CN102055968ACN102055975A2/2页12图3图4图5说明书附图CN102055968A。

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 电学 > 电通信技术


copyright@ 2017-2020 zhuanlichaxun.net网站版权所有
经营许可证编号:粤ICP备2021068784号-1