基于蚁群聚类和遗传算法的新型码本设计方法.pdf

一种基于蚁群聚类和遗传算法的新型码本设计方法，其步骤如下：步骤一：利用不同数目的蚂蚁将训练数据随机地分布在不同尺寸的二维空间上，采取LF算法进行初始聚类的生成；步骤二：初始聚类依照码本尺寸进行的聚类簇的修正，保证聚类的数目与初始设定的码本尺寸是相同的；步骤三：在初始种群成功获得的前提下，依照遗传算法的基本流程，进行个体选择、交叉和突变操作，直到迭代停止得到满足要求的最优个体。本发明不仅克服了LBG算法中初始选择与最终设计的结果相关性较强的缺点，同时避免了类似LBG算法陷入局部最优的劣势。它适用于大数量处理、语音通信、模式识别、IP电话等领域。

权利要求书
1.   一种基于蚁群聚类和遗传算法的新型码本设计方法，其特征在于：该方法的步骤如下：
步骤一：利用不同数目的蚂蚁将训练数据随机地分布在不同尺寸的二维空间上，采取LF算法进行初始聚类的生成；
步骤二：初始聚类依照码本尺寸进行的聚类簇的修正，保证聚类的数目与初始设定的码本尺寸是相同的；
步骤三：在初始种群成功获得的前提下，依照遗传算法的基本流程，进行个体选择、交叉和突变操作，直到迭代停止得到满足要求的最优个体。

2.   根据权利要求1所述的一种基于蚁群聚类和遗传算法的新型码本设计方法，其特征在于：在步骤一中用到的采取LF算法进行初始聚类的生成，聚类过程中用到的参数主要包括蚂蚁数目m,二维空间尺寸Z，聚类半径s,相异度常数α，及常数值k1,k2，搬运概率Pp放下概率Pd；
在步骤一中采取LF算法进行初始聚类的生成的基本步骤如下：
（1）设定初始的蚂蚁数目为m，步长为ma,二维空间尺寸初始为Z，步长为za，在当前蚂蚁数目和二维空间下将训练序列的数据随机地分配到二维空间上，所有蚂蚁均设置成空载状态，此时对于训练序列中的任一元素Oi，其位置XiYi均是随机地处于Z*Z空间内；
（2）对于每一只蚂蚁，在聚类空间上随机地选取一个位置，如果当前蚂蚁处于空载状态且当前位置上有数据存在，计算当前数据元素与以当前位置为中心的聚类半径内所有数据元素的相似度，随机生成一个（0,1）范围内的数值，如果随机数大于搬运概率则蚂蚁搬运该数据，当前位置上数据清空；
（3）如果当前位置上没有数据且蚂蚁处于搬运状态，运用步骤（2）中计算得到的相似度计算当前蚂蚁对于当前数据的放下概率，计算完成后进行判断：随机生成一个（0,1）范围内的数值，如果随机数超过放下概率则蚂蚁放下数据，蚂蚁设置成空载状态；
（4）蚂蚁的位置进行随机地定长移动，即X或者是Y坐标加减步长，重复移动操作直到当前移动到的位置没有被其他的蚂蚁占据；
（5）重复步骤（2）‑（4）直到对设定数目的蚂蚁均完成操作，完成操作之后得到对于原始数据的聚类结果，此时得到的聚类数目可能与设定达到的码本尺寸是不一样的；
（6）依照步骤（1）中设定的蚂蚁数目步长ma与二维空间步长za更改初始参数，重复步骤（2）‑（5）。

3.   根据权利要求1所述的一种基于蚁群聚类和遗传算法的新型码本设计方法，其特征在于：在步骤二中进行的初始聚类依照码本尺寸进行的聚类簇的修正，以保证聚类簇的数目与码本尺寸是一致的；
在步骤二中进行的初始聚类依照码本尺寸进行的聚类簇的修正的基本步骤如下：
（1）初始参数设定：码本尺寸M，图2中得到的聚类数目K；
（2）如果M<K,将得到的聚类数据按照每个聚类簇内训练序列矢量的数目进行降序排列，然后将最大聚类簇与最小聚类簇进行合并，取代原先的最大聚类簇，重复合并操作直到聚类数目与初始设定的码本尺寸相同，即M=K；
（3）如果M>K,将得到的聚类数据按照每个聚类簇内训练序列矢量的数目进行降序排列，然后将最大聚类簇内的数据依照到这个聚类簇形心距离的大小一分为二，生成两个新的聚类簇，重复拆分操作直到聚类数目与初始设定的码本尺寸相同，即M=K；
（4）对于当前得到的M个聚类簇进行形心计算，将形心当作初始码本中的码矢。

4.   根据权利要求1所述的一种基于蚁群聚类和遗传算法的新型码本设计方法，其特征在于：在步骤三中用到的遗传算法的基本流程，采用遗传算法将之前得到的初始种群进行选择、交叉和基因突变操作的步骤，其中用到的参数包括种群大小Npop_size、突变概率Pm、交叉概率Pc和迭代停止门限ε；
其中，步骤三中采用的遗传算法的基本流程，其具体的步骤如下：
（1）对于所有的个体计算各自的适应度值，然后将个体按照适应度进行降序排列，判断最优个体的适应度是否大于迭代停止门限，如果大于迭代停止门限则迭代工作完成，进入步骤（4），反之进入步骤（2）；
（2）依照交叉概率Pc选择已排序的个体序列中前Pc*Npop_size个个体直接进入下一代，然后进行下一代剩余个体的生成工作：对已排序的个体序列，按照从前面开始第一个与倒数第一个配对、前面第二个与倒数第二个配对的原则，将配对的两个个体当作父代，然后采取单点交叉操作生成新的两个个体，放置到下一代中当作子代，重复交叉操作直到总个体数目满足种群大小；
（3）依照基因突变概率Pm选取Pm*Npop_size个个体进行突变操作，操作过程为：对于每个个体生成一个（0,1）范围内的随机数，如果随机数大于Pm则当前个体进入突变操作，对于当前个体的染色体上的基因采取小范围内的突变，突变数值是个体的适应度的函数；如果随机小于Pm则当前个体保存，不进入突变操作，对于所有个体均完成选择和突变操作，进入步骤（1）；
（4）输出适应度最大的个体作为最终码本设计的结果。

说明书基于蚁群聚类和遗传算法的新型码本设计方法
技术领域
本发明提供一种基于蚁群聚类和遗传算法的新型码本设计方法，它涉及到的是一种针对信号处理中矢量量化所用码本的新型码本设计方法，特别涉及到的是混合激励线性预测编码方案中针对线谱对频率参数量化的码本设计，该方法能够有效减弱设计所得码本与训练序列之间的相关性，同时有效防止码本设计过程中陷入局部最优，适用于在数据维数较大、分配用来传输的比特数目较少的情况下实现数据的高精度量化。
技术背景
随着当今社会的逐步发展，移动通信的通信数据量正逐步加大，传统的通信资源如频谱已经无法满足日常的通信需求，针对此种现状研究人员提出了矢量量化的概念，矢量量化能够有效的提高数据处理效率，减少其占用的通信资源，因而被广泛的应用于卫星通信、模式识别、IP电话和大数据压缩等领域。矢量量化的具体方法是将发送端一个多维的数据进行处理，通过计算此数据与一定数量的同维数数据之间（称之为码矢）的欧氏距离，进而挑选出两者之间距离最小的矢量，并将其当作待处理数据的替代，数据在传递的时候传递的是最小距离码矢在所有码矢中的顺序标号，而数据接收端在接收数据之后依照数据标号进行索引查询，从而得到发送端所处理数据的最优替代。由此可以看出码本的设计对于矢量量化的效果至关重要，有效、精确的码本能够保证在数据接收端将原始数据尽可能精确地恢复出来，所以如何在有限训练序列的情况下得到效果最优的码本就成为了信号处理领域的一个研究热点。
码本设计的算法出现最早的是LBG算法，由Linde、Buzo和Gray于1980年提出的，这种方法不需要知道训练序列的概率分布，通过对训练序列采取一定的迭代算法来逼近最优码本。LBG算法的主要步骤是：1，从训练序列中随机地选取符合码本尺寸个数的矢量作为初始码矢；2，将训练序列中所有的矢量按照最小欧氏距离的原则分配到第一步中初始码矢的周围，称之为聚类处理；3，对于每个聚类所包含的所有训练序列的矢量计算形心，作为新的码矢；4，计算采用新型码本量化训练序列所有矢量的失真情况，如果失真达到初始设定的门限则停止，完成码本训练，否则重覆步骤2和3。LBG算法的优点是操作步骤简单，且码本训练时间较短，能够满足大部分的码本设计要求，但是这种算法的局限性同样明显：首先初始化的时候采取的随机选择方法造成最终所得的码本在初始选择不同的时候，其对于训练序列的量化效果相差较大，即最优码本与初始码矢的相关性较强；其次，设计阶段容易陷入局部最优，造成无法得到最终需要的收敛效果。针对LBG算法的这两个缺点，国内外的许多专家学者进行了长时间的研究，并提出了多种有效的码本设计方法，有效地改善了码本设计的效果。
ZongboXie和JiuchaoFeng在论文《Codebook Design For Vector Quantization Based on a Kernel Fuzzy Learning Algorithm》中提出了一种基于莫克尔模糊聚类和梯度算法的码本设计方法，方案中将LBG中的欧氏距离运算采取核距离的方法，极大的降低了计算复杂度，同时仿真效果显示码本设计的效果与LBG相比有所提升。H.B.Kekre和ChetanAgarwal在文章《Codebook optimization using genetic algorithm and simulated annealing》中成功地将遗传算法和模拟退火算法应用到码本设计中，在不额外增加码本尺寸的前提下对码本进行了进一步的优化，且充分运用了遗传算法良好的全局搜索能力，避免了陷入局部最优，效果显著。陈倩在论文《基于遗传LBG的图像矢量量化改进算法》中通过对遗传算法过程中个体选择前所有的个体进行三次迭代聚类操作，充分利用LBG算法局部搜索能力的同时，改善了码本设计的效果并加快了算法的收敛速度。大部分现在提出且已经使用的码本设计方法都无法在提高设计效果和减弱初始选择与最终结果之间相关性上获得兼顾，同时有的算法因为很容易陷入局部最优导致最后计算得到的码本虽然能够满足初始设定的门限，但是实际使用量化效果较差，因此提出一种能够有效的避免陷入局部最优，且最终码本与初始选择相关性较小的码本设计方法是目前急需要研究解决的问题。
发明内容
1、目的：
为了提高码本的量化效果，进而提升矢量量化在实际信号处理中的精确度，传统的码本设计方法有的是单一地利用蚁群聚类算法，充分利用其聚类结果与初始设置相关性较低的优点，这样得到的码本在量化效果上无法满足实际应用要求，且有的时候在有限的训练时间内无法达到收敛状态，有的方案是单一地利用遗传算法或者模拟退火算法，虽然避免了陷入局部最优，但是方案在最初的时候仍然需要初始个体的选择，最优结果与初始选择之间相关性密切，还有的方案是以牺牲量化效果为代价，降低码本设计中的计算量和时间复杂度的，大部分的方法都无法在量化效果与实际时间复杂度、初始相关性之间获取兼顾，本发明的目的是提供一种基于蚁群聚类和遗传算法的新型码本设计方法，它是提出一种基于蚁群聚类和遗传算法的码本设计方案，该方案在初始阶段充分利用蚁群聚类算法与初始选择相关性很低的优点，在不同尺寸的二维空间内采取不同数目的蚂蚁进行初始聚类簇的生成，计算每个聚类簇的形心将其当作遗传操作中的初始种群中个体的染色体，然后依照遗传算法对其采取选择、交叉和突变操作，实际操作中针对实际应用数据的特征，采用了动态的交叉操作和突变方案，直到最优个体的适应度即量化效果达到设定的门限，在避免了设计过程陷入局部最优的同时充分利用了遗传算法优秀的全局搜索能力，有效地提高了码本设计的效果。
2、技术方案
本发明的主要特征在于：码本设计阶段首先采取蚁群聚类算法中的LF算法进行初始聚类的生成，该算法的主要原理是仿照自然界中蚁堆对于搬运蚂蚁尸体的工蚁的吸引力是与蚁堆的尺寸成正比的，蚁堆越大吸引力越大，反之越小，从而形成一种正反馈，对于此阶段中采取的二维空间的尺寸和蚂蚁的数目是不断变化的，继而得到不同的聚类效果；然后，针对第一步中得到的聚类可能存在的聚类簇的数目与设定的码本尺寸不一样的缺点，进行聚类簇的修正；最后，针对之前得到的初始个体，将其当作第一代种群的个体，采取遗传算法的基本流程，执行遗传算法的选择、交叉和突变操作，最终在最优个体的适应度超过初始设定门限的时候停止操作，将最优个体输出当作码本设计的结果。
图1给出的是基于蚁群聚类和遗传算法的新型码本设计方法，本发明一种基于蚁群聚类和遗传算法的新型码本设计方法，其具体的步骤如下：
步骤一：利用不同数目的蚂蚁将训练数据随机地分布在不同尺寸的二维空间上，依照图2采取LF算法进行初始聚类的生成。
步骤二：依照图3进行的初始聚类依照码本尺寸进行的聚类簇的修正，，保证聚类的数目与初始设定的码本尺寸是相同的。
步骤三：在初始种群成功获得的前提下依照图4依照遗传算法的基本流程，进行个体选择、交叉和突变操作，直到迭代停止得到满足要求的最优个体。
其中，在步骤一中用到的依照图2采取LF算法进行初始聚类的生成，聚类过程中用到的参数主要包括蚂蚁数目m,二维空间尺寸Z，聚类半径s,相异度常数α，及常数值k1,k2，搬运概率Pp放下概率Pd。
在步骤一中采取LF算法进行初始聚类的生成的基本步骤如下：
（1）设定初始的蚂蚁数目为m，步长为ma,二维空间尺寸初始为Z，步长为za，在当前蚂蚁数目和二维空间下将训练序列的数据随机地分配到二维空间上，所有蚂蚁均设置成空载状态。此时对于训练序列中的任一元素Oi，其位置XiYi均是随机地处于Z*Z空间内。
（2）对于每一只蚂蚁，在聚类空间上随机地选取一个位置，如果当前蚂蚁处于空载状态且当前位置上有数据存在，计算当前数据元素与以当前位置为中心的聚类半径内所有数据元素的相似度，随机生成一个（0,1）范围内的数值，如果随机数大于搬运概率则蚂蚁搬运该数据，当前位置上数据清空。
（3）如果当前位置上没有数据且蚂蚁处于搬运状态，运用步骤（2）中计算得到的相似度计算当前蚂蚁对于当前数据的放下概率，计算完成后进行判断：随机生成一个（0,1）范围内的数值，如果随机数超过放下概率则蚂蚁放下数据，蚂蚁设置成空载状态。
（4）蚂蚁的位置进行随机地定长移动，即X或者是Y坐标加减步长，重复移动操作直到当前移动到的位置没有被其他的蚂蚁占据。
（5）重复步骤（2）‑（4）直到对设定数目的蚂蚁均完成操作，完成操作之后得到对于原始数据的聚类结果（此时得到的聚类数目可能与设定达到的码本尺寸是不一样的）。
（6）依照步骤（1）中设定的蚂蚁数目步长ma与二维空间步长za更改初始参数，重复步骤（2）‑（5）。
其中，在步骤二中依照图3进行的初始聚类依照码本尺寸进行的聚类簇的修正，以保证聚类簇的数目与码本尺寸是一致的。
在步骤二中进行的初始聚类依照码本尺寸进行的聚类簇的修正的基本步骤如下：
（1）初始参数设定：码本尺寸M，图2中得到的聚类数目K。
（2）如果M<K,将图2中得到的聚类数据按照每个聚类簇内训练序列矢量的数目进行降序排列，然后将最大聚类簇与最小聚类簇进行合并，取代原先的最大聚类簇，重复合并操作直到聚类数目与初始设定的码本尺寸相同，即M=K。
（3）如果M>K,将图2中得到的聚类数据按照每个聚类簇内训练序列矢量的数目进行降序排列，然后将最大聚类簇内的数据依照到这个聚类簇形心距离的大小一分为二，生成两个新的聚类簇，重复拆分操作直到聚类数目与初始设定的码本尺寸相同，即M=K。
（4）对于当前得到的M个聚类簇进行形心计算，将形心当作初始码本中的码矢。
其中，在步骤三中用到的遗传算法的基本流程，采用遗传算法将之前得到的初始种群进行选择、交叉和基因突变操作的步骤，其中用到的参数包括种群大小Npop_size、突变概率Pm、交叉概率Pc和迭代停止门限ε。
其中，步骤三中采用的遗传算法的基本流程，其具体的步骤如下：
（1）对于所有的个体计算各自的适应度值，然后将个体按照适应度进行降序排列，判断最优个体的适应度是否大于迭代停止门限，如果大于迭代停止门限则迭代工作完成，进入步骤（4），反之进入步骤（2）.
（2）依照交叉概率Pc选择已排序的个体序列中前Pc*Npop_size个个体直接进入下一代，然后进行下一代剩余个体的生成工作：对已排序的个体序列，按照从前面开始第一个与倒数第一个配对、前面第二个与倒数第二个配对的原则，将配对的两个个体当作父代，然后采取单点交叉操作生成新的两个个体，放置到下一代中当作子代。重复交叉操作直到总个体数目满足种群大小。
（3）依照基因突变概率Pm选取Pm*Npop_size个个体进行突变操作，操作过程为：对于每个个体生成一个（0,1）范围内的随机数，如果随机数大于Pm则当前个体进入突变操作，对于当前个体的染色体上的基因采取小范围内的突变，突变数值是个体的适应度的函数；如果随机小于Pm则当前个体保存，不进入突变操作。对于所有个体均完成选择和突变操作，进入步骤（1）。
（4）输出适应度最大的个体作为最终码本设计的结果。
3、优点及功效：
本发明提供的这种基于蚁群聚类和遗传算法的新型码本设计方法，不仅克服了LBG算法中初始选择与最终设计的结果相关性较强的缺点，同时避免了类似LBG算法陷入局部最优的劣势。码本设计过程中，首先通过运用蚁群聚类算法中的LF算法，使用不同数目的蚂蚁在不同的二维空间上对训练数据进行聚类，然后针对聚类所得聚类簇数目可能与码本尺寸不同的特点，采用图2中介绍的修正方案，从而保证得到的个体中矢量的个数与码本的尺寸是相同的，然后将得到的个体当作遗传算法操作中最初的第一代个体，进行个体适应度计算、个体选择、交叉和基因突变操作，最终当最优个体的适应度大于迭代停止门限的时候停止，输出此时的最优个体作为码本设计的结果，保证了全局优化的进行。
本发明适用于大数量处理、语音通信、模式识别、IP电话等领域，本发明主要有以下几个优点：
（1）运用LF算法进行初始聚类的生成，充分利用了LF算法的优点即最后的聚类效果与蚂蚁的初始位置选择无关，这样就充分克服了LBG算法中不同初始个体的选择对于最终码本设计结果的强相关性影响。
（2）运用遗传算法完成个体的选择、交叉和突变操作，通过不断的迭代最终得到符合条件的个体，充分利用了遗传算法较强的全局搜索能力，克服了LBG算法容易陷入局部最优的缺点，保证了最终的设计码本是基于整体训练序列而得到的。
（3）遗传算法在操作过程中不存在类似于LBG算法产生空包腔的问题，更没有针对空包腔而提出的大包腔拆分法，在设计过程中提高了聚类效果。
附图说明
图1本发明所述方法总体流程图
图2采用LF算法进行初始聚类的生成的流程图
图3初始聚类依照码本尺寸进行的聚类簇的修正的流程图
图4遗传算法的基本流程图
M:码本尺寸
Oi：数据元素
Z*Z：分布的二维空间
s:聚类半径
α：相异度常数
Pp：装载数据概率
Pd：放下数据概率
Npop_size：种群大小
Pc：交叉概率
Pm：基因突变概率
ε：迭代停止门限
具体实施方式
下面结合附图1、2、3、4，以混合激励线性预测编码方案中用到的线谱对频率参数为例具体介绍本发明所给出的新型码本设计方法，其中线谱对频率参数为10维。
本发明一种基于蚁群聚类和遗传算法的新型码本设计方法，其具体的步骤如下：
步骤一：预设码本尺寸为64，即种群大小Npop_size为64。依照图2给出的方案，首先设定蚂蚁的初始数目为100，步长为5，二维空间的尺寸为100，步长为10，聚类半径s为5，相异度常数α为2，常数k1,k2分别为0.4、0.6，所有蚂蚁均设置成空载状态。数据相似度的计算依照公式（1）进行，蚂蚁搬运数据概率和放下数据概率的计算依照公式（2）、（3）。具体公式如下：