云计算平台中WEB应用的自适应伸缩控制系统及其方法.pdf

1、(10)申请公布号 CN 102904955 A (43)申请公布日 2013.01.30 C N 1 0 2 9 0 4 9 5 5 A *CN102904955A* (21)申请号 201210390481.2 (22)申请日 2012.10.16 H04L 29/08(2006.01) (71)申请人南京大学镇江高新技术研究院 地址 212000 江苏省镇江市镇江新区科技新 城经十二路468号 (72)发明人池瑞清 钱柱中 陆桑璐 (74)专利代理机构江苏圣典律师事务所 32237 代理人贺翔 (54) 发明名称 云计算平台中Web应用的自适应伸缩控制系 统及其方法 (57) 摘要 本发

2、明公开了一种随着负载变化，动态调整 计算资源的云计算平台中Web应用的自适应伸缩 控制系统及其方法，系统包括性能监视器、负载数 据库、性能模型计算模块、优化控制器和自动配置 模块。方法为：首先性能监视器根据Web应用的结 构和请求处理流程，构造分层队列网络模型；通 过在真实的云计算平台中部署web应用，并在web 应用的每一层组件中插入记录标签，以记录每个 请求在每个组件的每种资源处的实际执行时间， 从而得到性能模型计算模块中web应用性能模型 所需要的参数；当应用负载发生变化时，优化控 制器通过启发式的搜索算法，计算每一种资源配 置方案下应用的性能，找到所需代价最小又能同 时满足用户QoS需

3、求的配置方案，作为最优配置 方案；最后由自动配置模块重新调整应用每个组 件所需要的资源。 (51)Int.Cl. 权利要求书1页 说明书3页 附图2页 (19)中华人民共和国国家知识产权局 (12)发明专利申请 权利要求书 1 页 说明书 3 页 附图 2 页 1/1页 2 1.一种云计算平台中Web应用的自适应伸缩控制系统，其特征在于包括以下部分： 性能监视器：检测Web应用当前的负载以及当前的性能表现，并将数据发给负载数据 库保存下来，进一步判断性能是否能够满足用户的QoS需求，若不能满足，则交给优化控制 器来处理资源的重新分配； 负载数据库：储存应用的负载、资源分配以及实际的性能参数这些

4、历史信息； 性能模型计算模块：根据当前的负载以及资源配置方案，预测其相应的性能参数，并返 回给优化控制器进行处理； 优化控制器：通过启发式的搜索算法找到一种最优配置方案，以保证性能满足用户的 QoS需求并同时最小化资源的需求； 自动配置模块：根据优化控制器产生的最优配置方案，关掉或启用相应的虚拟机。 2.根据权利要求1所述云计算平台中Web应用的自适应伸缩控制系统的工作方法，其 特征在于包括以下步骤： （A）首先性能监视器检测Web应用当前的负载以及当前的性能水平，并将数据发给负 载数据库保存下来，根据Web应用的结构、请求处理流程和分层队列网络模型构造相应的 web应用性能模型； （B）通过

5、在真实的云计算平台中部署web应用，每一层组件都有多个虚拟机副本，并在 web应用的每一层组件中插入记录标签，以记录每个请求在每个组件的每种资源处的实际 执行时间，然后通过使应用的负载为一个某种事务的请求，得到上述记录的执行时间，迭代 若干次，求得相应的平均值，从而得到性能模型计算模块中web应用性能模型所需要的参 数； （C）当应用负载发生变化时，优化控制器通过启发式的搜索算法，计算每一种资源配置 方案下应用的性能，找到所需资源代价最小又能同时满足用户QoS 需求的配置方案，作为 最优配置方案； （D）根据（C）中生成的最优配置方案，由自动配置模块重新调整应用每个组件所需要的 资源。 3.根

6、据权利要求2所述的云计算平台中Web应用的自适应伸缩控制系统的工作方法， 其特征在于，所述步骤（A）中构造web应用性能模型的过程是：性能模型计算模块分析多层 web应用的组件构成、负载组成以及事务的请求处理流程，利用MVA算法和分层队列网络模 型，预测每个事务的响应时间。 4.根据权利要求2所述的云计算平台中Web应用的自适应伸缩控制系统的工作方法， 其特征在于，所述步骤（C）中的启发式的搜索算法是：首先从当前配置方案出发，计算其N 个邻居节点的效益函数值U，然后按照从大到小的顺序排列，选取其中K个效益函数值最大 的配置方案；若这K个效益函数值最大的配置方案中存在其性能水平满足用户QoS需求

7、的 配置方案，则选取K个配置方案中效益函数值最大的，作为最优配置方案，否则再考虑这K 个配置方案的所有邻居节点，依此循环执行。 权 利 要 求 书CN 102904955 A 1/3页 3 云计算平台中 Web 应用的自适应伸缩控制系统及其方法 技术领域 0001 本发明涉及云平台中资源的有效管理,特别涉及一种多层web应用的自适应伸缩 控制系统及其工作方法，本发明支持随着负载的变化，动态的调整计算资源。 背景技术 0002 使用自适应伸缩控制系统能够帮助服务提供商根据负载需求动态的调度资源，从 而以最少的资源来满足用户的QoS（Quality of Service，服务质量）需求。与传统的访

8、问 控制技术相比，自适应伸缩控制系统不会确定应用能够容纳的最大用户数量，也不会因为 太多的用户而拒绝客户的请求，而且又能保证整体的服务质量，同时也不会占用额外的资 源。当前的云平台中自适应伸缩控制技术分为两种：（1）基于虚拟机的方法：该方法不考虑 虚拟机内部的具体应用，制定具体的伸缩策略，根据虚拟机当前的资源利用率来调整资源 的分配，它的缺陷为：从整个应用的角度来说，单个组件虚拟机的性能改善，可能会将性能 瓶颈转移到其他的组件的虚拟机上。（2）基于应用的方法：目前的方法往往假设应用只有 单个事务类型，每个虚拟机能够处理的请求数量为固定值，从而根据总负载来伸缩，事实上 该方法很难扩展到具有多种事

9、务类型的web应用的自动伸缩。同时这两种方法当前都没有 考虑到多个QoS的情况。 发明内容 0003 本发明的主要目的是针对目前的web应用自动伸缩控制技术的缺点，提供一种基 于分析模型的自适应的控制接纳方法，它能够根据用户的QoS需求和当前负载，有效的自 适应的调整应用每个组件所需的资源容量。 0004 本发明所述的一种云计算平台中Web应用的自适应伸缩控制系统，其包括以下部 分： 性能监视器：检测Web应用当前的负载以及当前的性能水平，并将数据发给负载数据 库保存下来，进一步判断性能是否能够满足用户的QoS需求，若不能满足，则交给优化控制 器来处理资源的重新分配； 负载数据库：储存应用的负

10、载、资源分配以及实际的性能水平这些历史信息； 性能模型计算模块：根据当前的负载以及某种配置方案，计算出其相应的性能水平，并 返回给优化控制器进行处理； 优化控制器：通过启发式的搜索算法找到一种最优配置方案，使得满足当前系统负载 并同时最小化资源的需求； 自动配置模块：根据优化控制器产生的最优配置方案，关掉或启用相应的虚拟机。 0005 此外，本发明还提供该云计算平台中Web应用的自适应伸缩控制系统的工作方 法，其包括以下步骤： （A）首先性能监视器检测Web应用当前的负载以及当前的性能水平，并将数据发给负 载数据库保存下来，根据Web应用的结构、请求处理流程和分层队列网络模型构造相应的 说 明

11、 书CN 102904955 A 2/3页 4 web应用性能模型； （B）通过在真实的云计算平台中部署web应用，每一层组件都有多个虚拟机副本，并在 web应用的每一层组件中插入记录标签，以记录每个请求在每个组件的每种资源处的实际 执行时间，然后通过使应用的负载为一个某种事务的请求，得到上述记录的执行时间，迭代 若干次，求得相应的平均值，从而得到性能模型计算模块中web应用性能模型所需要的参 数； （C）当应用负载发生变化时，优化控制器通过启发式的搜索算法，计算每一种资源配置 方案下应用的性能，找到所需资源代价最小又能同时满足用户QoS 需求的配置方案，作为 最优配置方案； （D）根据（C）

12、中生成的最优配置方案，由自动配置模块重新调整应用每个组件所需要的 资源。 0006 所述步骤（A）中构造web应用性能模型的过程是：性能模型计算模块分析多层web 应用的组件构成、负载组成以及事务的请求处理流程，利用MVA算法和分层队列网络模型， 预测每个事务的响应时间。 0007 所述步骤（C）中的启发式的搜索算法是：首先从当前配置方案出发，计算其N个邻 居节点的效益函数值U，然后按照从大到小的顺序排列，选取其中K个效益函数值最大的配 置方案；若这K个效益函数值最大的配置方案中存在其性能水平满足用户QoS需求的配置 方案，则选取K个配置方案中效益函数值最大的，作为最优配置方案，否则再考虑这K

13、个配 置方案的所有邻居节点，依此循环执行。 0008 本发明克服了当前云平台中已有的自适应伸缩控制技术的缺点，考虑了web应用 典型的多层结构以及能够执行多种事务类型的特点，适用于根据负载灵活的调整web应用 的服务器容量，它能够有效的使用最小的资源代价满足用户的QoS需求。 附图说明 0009 图1为基于分析模型的自适应伸缩控制整体结构图， 图2为启发式搜索算法的工作流程图。 具体实施方式 0010 下面将结合附图对该自适应伸缩控制方法进行详细说明 关键概念、定义及符号说明： 这个概念是指应用的每个组件是由多少个虚拟机构成的，即应用的具体资源构成方 案。 0011 邻居节点：每个配置方案的邻

14、居节点是指相应的 资源需求变化最少的配置方案，即对于任意两个配置方案 互为邻居节点，当且仅当存在唯一的一个t使得 ，同时其余的对应位置都相等。（其中，M为多层Web应用的层数） 效益函数：对于相同的负载，在不同的配置方案下，其性能表现各不相同。效益函数则 说 明 书CN 102904955 A 3/3页 5 为web应用的性能到用户满意度的映射，表示用户对服务的满意程度，性能越好，则用户愈 加满意，其定义如下： 其中U表示用户的满意度，随着响应时间的增加而减少，R i 和SLA i 分别表示事务i的 实际响应时间和QoS需求，Impor i 则表示事务i的重要程度，W则表示对应事务的负载。 0

15、012 如图1所示，整个web应用的自适应伸缩控制系统由五部分组成：性能监视器、负载数 据库、优化控制器、自动配置模块和性能模型计算模块。性能监视器的功能是检测Web应用 当前的负载以及当前的性能水平，并将数据发给负载数据库保存下来，并进一步判断性能 是否能够满足用户的QoS需求，若不能满足，则交给优化控制器来处理资源的重新分配。负 载数据库的功能是储存应用的负载、资源分配以及实际的性能水平等历史信息。性能模型 计算模块的功能是根据当前的负载以及某种配置方案，计算出其相应的性能水平，并返回 给优化控制器进行处理。优化控制器的功能是通过启发式的搜索算法找到一种最优配置方 案，使得满足当前系统负载

16、并同时最小化资源的需求。自动配置模块的功能是根据优化控 制器产生的最优配置方案，关掉或启用相应的虚拟机。 0013 本发明得到最优配置方案的启发式搜索算法的具体工作流程如图2所示。系统在 正式运行前，必须经过步骤20，预先测量每类事务在每个组件的每种资源类型的执行时间， 将性能模型参数化，并用伏在数据库中的历史数据验证其有效性。系统运行状态下，步骤10 为初始点，性能监视器将检测到的当前负载和性能参数发送到优化控制器中。此时判断当 前的性能水平是否满足用户的QoS需求，如果是转步骤14，否则转步骤11。步骤14，将监视 到的负载和性能数据储存在负载数据库中，方便以后使用；步骤11，首先从当前配

17、置方案 出发，计算其N个邻居节点的效益函数值U，然后按照从大到小的顺序排列，选取其中K个 效益最大的配置方案，最后转步骤12。步骤12，判断这K个效益最大的配置方案是否存在 其性能水平满足用户QoS需求的配置方案，若否，则转回步骤11 循环执行；若是，则转步骤 13。步骤13选取K个配置方案中效益函数值最大的，作为最优配置方案，并调用自动配置 模块根据最优配置方案重新调整整个应用的资源组成。 0014 本发明具体应用途径很多，以上所述仅是本发明的优选实施方式，应当指出， 对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以作出若干改 进，这些改进也应视为本发明的保护范围。 说 明 书CN 102904955 A 1/2页 6 图1 说 明 书 附 图CN 102904955 A 2/2页 7 图2 说 明 书 附 图CN 102904955 A