《一种应用于HEVC帧间编码的全零块检测方法.pdf》由会员分享，可在线阅读，更多相关《一种应用于HEVC帧间编码的全零块检测方法.pdf（11页珍藏版）》请在专利查询网上搜索。
1、10申请公布号CN104202599A43申请公布日20141210CN104202599A21申请号201410489668722申请日20140923H04N19/124201401H04N19/176201401H04N19/62520140171申请人浙江工商大学地址310018浙江省杭州市下沙经济开发区学正街18号72发明人陈卫刚李晓楠54发明名称一种应用于HEVC帧间编码的全零块检测方法57摘要本发明涉及视频图像处理领域，特别涉及一种应用于HEVC帧间编码的全零块检测方法，包括1根据编码块在帧间预测和补偿后的残差数据经过DCT变换后各个频率位置的DCT系数的分布特性，以及位于背景区。
2、域的块经过后续的基于运动检测的去噪滤波后其块内预测误差的绝对值之和将有所减小的特性，在变换块进行实际的DCT变换和量化之前，预判变换块是否是一个全零块；2在编码器中嵌入了一个基于运动检测的时间域滤波器，在避免去噪滤波引入运动模糊的前提下，通过在判断全零块的阈值中增加一个大于1的放大因子，减少噪声信号对视频编码的影响，将尽可能多的位于背景区域的块判定为全零块，从而有利于减少编码过程的计算代价、提高编码压缩率。51INTCL权利要求书2页说明书7页附图1页19中华人民共和国国家知识产权局12发明专利申请权利要求书2页说明书7页附图1页10申请公布号CN104202599ACN104202599A1。
3、/2页21一种应用于HEVC帧间编码的全零块检测方法，其特征在于，所述方法是针对编码块CB中的各个变换块TB实施的，对于每个变换块，包括以下步骤1判断当前TB内残差数据是否符合以下条件，若是，则判定当前TB为全零块，无需进行后续的DCT变换和量化过程，转步骤5，否则转步骤2；并且其中，N是TB块X和Y方向的尺寸，MNN，QSTEP是由量化参数QP确定的量化步长，1Z0，1，Z是一个由TB内数据相关程度决定的矩阵，2是一个大于1的放大系数，SND和SAD分别按下式计算其中，EX，Y代表帧间预测补偿后的残差数据；2对TB内的残差数据作时间域去噪滤波，按下式计算TB内每个像素的残差滤波值EX，YAX。
4、，YEX，Y其中EX，Y为滤波之后的残差值，滤波系数AX，Y按下式确定其中B取常数4，阈值TM6，ME是TB内X，Y像素的邻域范围内残差绝对值的均值；3由滤波以后的残差数据计算SAD和SND，取2等于1，若步骤1中的条件成立，则判定当前TB为全零块，无需进行后续的DCT变换和量化过程，否则转步骤4；4按HEVC标准进行整数形式的二维DCT变换、量化处理；5按HEVC标准进行基于上下文的自适应二进制算术编码。2根据权利要求1所述的一种应用于HEVC帧间编码的全零块检测方法，其特征在于，所述的放大系数2在步骤2去噪滤波的过程中自适应地动态更新，设更新前的值为2T1，若当前TB块在去噪滤波前的SND。
5、值满足条件SND2NQSTEP则按下式更新2的值其中更新系数0，1，SADP和SADN分别为TB块去噪滤波之前和之后的SAD值；若SND不符合上述条件，则不更新2的值。3根据权利要求1所述的一种应用于HEVC帧间编码的全零块检测方法，其特征在于，所述参数1的计算方法如下首先按下式计算矩阵R，权利要求书CN104202599A2/2页3其中Q取常数06，其次，按下式计算矩阵S，SARAT其中矩阵A的各个元素按下式确定，最后，确定1S0，0S1，1。权利要求书CN104202599A1/7页4一种应用于HEVC帧间编码的全零块检测方法技术领域0001本发明涉及视频图像处理领域，特别涉及一种应用于H。
6、EVC帧间编码的全零块检测方法。背景技术0002作为新一代视频编码标准，高效率视频编码HIGHEFCIENCYVIDEOCODING，HEVC沿用了H264等前一代编码标准所使用的基于块的混合编码框架，利用帧内和帧间预测去除空间和时间冗余，利用离散余弦变换DISCRETECOSINETRANSFORM，DCT和熵编码去除统计冗余。0003在HEVC中，编码树单元CODINGTREEUNIT，CTU是基本的处理单元，每个CTU包含了一个亮度分量编码树块CODINGTREEBLOCK，CTB和两个色度分量CTB。HEVC支持将CTB以四叉树的形式划分成更小的块，树型划分结构的叶子节点形成编码单元C。
7、ODINGUNIT，CU，包含了亮度和色度分量的编码块CODINGBLOCK，CB以及相应的句法元素。虽然HEVC在CU的层面确定是采用帧内预测或帧间预测，但每个编码单元可进一步向下划分成两个或四个预测单元PREDICTIONUNIT，PU，且每个PU可独立地进行预测和补偿，从而形成残差块。与PU类似，HEVC允许以CU为根节点，对残差块进行四叉树形式的递归划分，形成变换单元TRANSFORMUNIT，TU，且以TU为单位进行变换和量化，相应地，每个TU包括亮度和色度分量的变换块TRANSFORMBLOCK，TB以及句法元素。0004HEVC编码中的全零块提早检测是指针对经预测和补偿后的残差T。
8、B，在实际的变换和量化之前，采用某种算法预判该TB经变换后，所有的DCT系数将被量化为零。由于被预判为全零块的编码块将跳过后续的变换和量化过程，所以全零块数目的增加，将有利于减少编码的计算代价。另外，由于全零块不会在码流中产生与残差数据相关的比特，所以，增加全零块的数目有利于提高编码压缩率。0005视频监控等应用以固定摄像机观察场景，所记录的视频图像通常存在大量的背景区域。理论上，经过帧间运动估计和补偿，位于这些区域的CB块的残差数据经过DCT变换和量化，其变换系数将全部为零。与理想状态背道而驰的是，由CCD、CMOS等图像传感器获取的视频信号，不可避免地会引入各种类型的噪声，使得那些位于背景。
9、区域的CB在变换量化之后仍然存在较多的不为零系数，在固定量化参数QUANTIZATIONPARAMETER，QP的情况下，编码器将较多的码流分配给不产生真实信息的噪声信号，导致码率的上升，从而不利于后续的网络传输和存储；在固定码率的情况下，因为噪声信号占用了部分码流而使得视频图像中运动对象所在的区域分配得到的码流有所减少，从而导致编码图像视觉质量的下降。发明内容0006本发明所要解决的技术问题在于以视频监控中的HEVC编码器为应用背景，提出一种全零块提前检测方法，利用时间域去噪滤波能有效减小由于噪声信号引起的帧差值的说明书CN104202599A2/7页5特性，在全零块判断过程中引入一个大于1。
10、的放大系数，从而补偿噪声信号对全零块判断的影响。0007为达到上述目的，本发明采用的技术方案是0008一种应用于HEVC帧间编码的全零块检测方法，包括如下步骤0009步骤一，依次取当前编码块CB中的每个变换块TB，若TB内残差数据符合下式，则判定当前TB为全零块，无需进行后续的DCT变换和量化过程，转步骤五，否则转步骤二；并且其中，SND和SAD分别按下式计算其中N是TB块的大小，EX，Y代表帧间预测的残差数据，QSTEP是由量化参数QP确定的量化步长，MNN，1Z0，1，Z是一个由TB内数据相关程度决定的矩阵，Z0，1是Z矩阵0，1位置的元素，2是一个大于1的放大系数，以适应经后续的时间域去。
11、噪滤波，TB块的SAD值将有所减小；0010步骤二，对TB内的残差数据作基于运动检测的时间域去噪滤波，按下式计算TB内每个像素的残差滤波值EX，YAX，YEX，Y其中EX，Y为滤波之后的残差值，滤波系数AX，Y按下式确定其中B取常数4，ME是TB内X，Y像素的邻域范围内残差绝对值的均值，TM是一个常数；0011步骤三，由滤波以后的残差数据计算SAD和SND，若下式的条件成立，则判定当前TB为全零块，无需进行后续的DCT变换和量化过程，否则转步骤四，并且其中1值的计算方式与步骤一相同；0012步骤四，按HEVC标准进行整数形式的二维DCT变换、量化处理；0013步骤五，按HEVC标准进行基于上下。
12、文的自适应二进制算术编码等。0014进一步，所述步骤一的Z矩阵的计算方法如下00151取Q值等于06，按下式计算矩阵R；说明书CN104202599A3/7页600162按下式计算矩阵S，SARAT其中A矩阵中的各个元素为00173计算矩阵Z，其中的各个元素为ZU，VSU，USV，V0018进一步，所述步骤一中的放大系数2在去噪滤波的过程中动态地更新，具体地，设更新前的值为2T1，若当前TB块在去噪滤波前的SND值满足条件SND2NQSTEP则按下式更新2的值其中更新系数0，1，SADP和SADN分别为TB块去噪滤波之前和之后的SAD值；若SND不符合上述条件，则不更新2的值。0019本发明的。
13、有益技术效果是通过在变换量化前进行全零块判别，可以提前检测出残差数据经变换量化后全部为零的TB块，从而省去对TB块的变换量化过程；本发明对于应用于视频监控的HEVC编码系统意义尤为突出，因为这些系统的视频信号或多或少会存在噪声信号，将去噪滤波器嵌入在编码过程中，针对残差作降噪滤波，能有效地抑制噪声对全零块检测的影响，与不考虑噪声的情况相比，能有效地提高全零块的比率，从而降低计算复杂度、提高编码效率，同时，基于运动检测的去噪滤波能很好地避免由于滤波计算可能引入的运动模糊和视觉质量下降。附图说明0020图1N8，Q值为06时的Z矩阵；0021图2本发明应用于HEVC帧间编码的全零块检测方法具体实施。
14、方式流程图。具体实施方式0022帧间预测和补偿后的变换块TB，每个像素的预测误差值为EX，YIX，YBX，Y1X，Y代表了TB内的像素位置，I为待编码图像，B为参考图像中与I对应的匹配块。若TB所在的区域不包含运动物体，理想状态下，经帧间预测和补偿，该TB应编码为全零块，说明书CN104202599A4/7页7然而，实际记录的视频信号难以避免地存在噪声影响，当噪声的强度较大或量化参数QP较小时，上述全零块预期往往难以实现。0023将TB残差数据看成一个NN的矩阵E，二维DCT变换可写成如下矩阵相乘的形式FAEAT2其中A是DCT变换矩阵，其元素按下式计算HEVC采用整数DCT变换，其变换矩阵中。
15、的每个系数等于3式乘上一个缩放系数，使得变换矩阵中的每个元素是个整数，为了避免溢出且保证具有一定的计算精度，HEVC通过在变换过程中作两次右移运算，在量化过程中使用如下式4所示的运算，使得整个变换过程与二维DCT变换基本一致。WU，VFU，VQQP6OFFSETSHIFT4其中FU，V是残差数据经DCT变换后的系数，Q是由QP决定的放大倍数，SHIFT是右移的位数，用于替代量化过程的除运算，OFFSET用于补偿由于取整运算引入的误差。当TB所有的DCT系数经上式量化后都为0，该TB是一个全零块。0024由于HEVC的整数变换与2和3式给出的浮点形式的变换只有计算精度的差异，为分析方便，本发明采。
16、用2和3式的变换，将TB残差块经DCT变换后，频率坐标为U，V的系数写成如下的形式将AX，UAY，V视作一个权值，由中心极限定理符合独立同分布的随机变量之和所形成的变量，可近似地认为具有正态分布。所以，所有位于背景区域的编码块的TB残差块作DCT变换后，具有相同频率坐标的变换系数，近似地具有正态分布。并且，由于DCT的变换矩阵是一个酉矩阵，所以各个变换系数的正态分布的均值为U，V0，方差等于TB残差块变换之前数据的方差乘以一个系数，具体地，其中，R是如下形式的矩阵其中元素RM，NQ|MN|，Q是TB水平或垂直方向相隔一个像素的那些数据所具有的相关系数，对于一般的图像，该值介于04到075之间，。
17、本发明的一个实施例取中间值06。0025当Q值确定以后，将R矩阵和A矩阵的值代入6式可计算DCT变换后各个变换说明书CN104202599A5/7页8系数的方差与之间的关系，具体地，记ZU，VARATU，UARATV，V，图1给出了N8，Q值为06时的Z矩阵。0026将频率坐标为U，V的DCT系数视作随机变量，由于它们符合均值为0，方差为的正态分布，由正态分布的性质，该DCT系数落在区间3FU，V，3FU，V的概率约为99。虽然HEVC采用如式4所示的量化步骤，但这种计算形式很大程度上是为了除去由于整数变换所引入的放大因子，量化的本质是DCT系数除以由量化参数QP确定的量化步长QSTEP。取该。
18、区间范围内绝对值的最大值3FU，V，若下式成立，则频率坐标为U，V的DCT系数经量化后为03FU，VQSTEP8与H264标准一样，HEVC中的QP范围为051，前六个QP对应的QSTEP如表1所示，后续的值，QP每增加6，QSTEP的值增大1倍。表1与前六个QP对应的量化步长0027由式6，DCT系数的方差与块内残差数据的方差存在着联系，进一步地，可由残差的SAD值估计残差数据的方差。0028CCD、CMOS等图像传感器获取的视频图像可建模成理想视频叠加了噪声信号，即IX，YFX，YNX，Y9其中FX，Y是理想视频信号，NX，Y是噪声信号，对监控视频，通常可假设为独立于信号、均值为零、方差为。
19、2的高斯白噪声。在视频图像的背景区域，帧间预测的残差信号主要来自于噪声信号，对帧间预测残差E取绝对值后，|E|的概率密度函数为其中和2可能存在较小差异，按下式计算|E|的期望值0029对于一个TB的残差数据，E|E|SAD/M12其中M为TB块中的像素数目。结合式11和12可得如下关系式0030注意到下式的0，0位置的DCT系数容易在全零块检测中计算，说明书CN104202599A6/7页9并且，除0，0位置外，最大的Z值出现在0，1和1，0位置，结合式6、8和14，若以下条件成立，则可预判TB经DCT变换和量化后，其DCT系数全为0，F0，0QSTEP并且其中，1Z0，1。0031对于不符合。
20、式16条件的TB，若其残差数据主要来源于视频噪声，则使用一个嵌入在编码器中的基于运动检测的去噪滤波器，将有助于减小TB块的SAD。本发明在16式的条件的基础上，在关于SAD的条件中增加一个大于1的放大系数2，将式16的条件修正为F0，0QSTEP并且0032根据上述思想，本发明提出一种应用于HEVC编码的全零块检测方法，图2示出了本发明具体实施方式的流程图，包括以下几个步骤0033步骤101，以递归四叉树划分的方式将编码块CB划分成变换块TB，以循环的形式依次取CB中的所有TB进行处理。在高效视频编码HEVC标准中，TB的最大尺寸等于CB的尺寸，最小尺寸为44，为简单起见，本发明的一个实施例统。
21、一设定亮度分量的TB尺寸为88，色度分量的TB尺寸为44。0034步骤102，按式15计算当前TB残差数据的和，按式13计算绝对值之和SAD。0035步骤103，按式17判断TB是否是全零块，若是，转步骤107，否则顺序执行步骤104，其中，SNDNF0，0。0036步骤104，对TB内的残差数据作去噪滤波，并且更新式17中使用的系数2。具体地，本发明的一个优选实施例采用时间域滤波，设IX，Y为当前图像，BX，Y为经运动估计后的参考图像，滤波后的图像为IX，YAX，YIX，Y1AX，YBX，Y18其中滤波系数AX，Y按下式确定其中B取常数4，TM是一个阈值，本发明的一个实施例取TM6，ME是T。
22、B内X，Y像素的邻域范围内残差绝对值的均值，按下式计算结合1式和18式，上述时间域滤波反映到残差数据为EX，YAX，YEX，Y21由于AX，Y是一个不大于1的实数，所以上述时间域滤波将使得TB的SAD数据有所减小，有更多的块将满足步骤103的条件判断，被判定为全零块，从而免除后续的DCT变换说明书CN104202599A7/7页10和量化，以降低计算代价。0037系数2采用动态自适应的方式持续更新，具体地，设更新前的值为2T1，若当前TB块在去噪滤波前的残差和值SND，满足条件SND2NQSTEP22则按下式更新2的值其中更新系数0，1，本发明的一个实施例取075。SADP和SADN分别为TB。
23、块去噪滤波之前和之后的SAD值，由于21式的去噪滤波将使得SAD的值有所减小，所以2是一个大于1的系数。0038步骤105，判断经过去噪滤波，TB是否满足全零块条件，若是，转步骤107，否则顺序执行步骤106，其中的阈值T3为0039步骤106，滤波后的TB块作DCT变换和量化。0040步骤107，对于被判定为全零块的TB，直接判定TB经量化后的DCT系数全为0。0041步骤108，按HEVC标准作后续的CABAC编码等。0042以上所述仅为本发明的较佳实施例，但本发明的保护范围并不局限于此，凡在本发明的精神和原则之内，所做的任何修改或替换等，都应涵盖在本发明的保护范围内。说明书CN104202599A101/1页11图1图2说明书附图CN104202599A11。