云平台ELB组件的资源扩展方法和装置.pdf

上传人:1*** 文档编号:664104 上传时间:2018-03-02 格式:PDF 页数:16 大小:1.43MB
返回 下载 相关 举报
摘要
申请专利号:

CN201410375345.5

申请日:

2014.07.31

公开号:

CN104135525A

公开日:

2014.11.05

当前法律状态:

授权

有效性:

有权

法律详情:

授权|||实质审查的生效IPC(主分类):H04L 29/08申请日:20140731|||公开

IPC分类号:

H04L29/08

主分类号:

H04L29/08

申请人:

广州杰赛科技股份有限公司

发明人:

王旭; 周冠宇; 温云龙; 宋吉鹏

地址:

510310 广东省广州市海珠区新港中路381号

优先权:

专利代理机构:

广州华进联合专利商标代理有限公司 44224

代理人:

周清华;崔春

PDF下载: PDF下载
内容摘要

本发明公开了一种云平台ELB组件的资源扩展方法和装置,首先根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m;根据获取的历史数据中服务请求数量计算聚合值增长率k;将实时服务请求数量与服务实例最大处理能力进行比较;当实时服务请求数量大于服务实例最大处理能力时,计算聚合值增长率k与单个服务实例平均每秒增量m的比值,根据所述比值进行资源扩展。本发明高效快速的响应高负载情况的请求响应,提高云平台的响应能力,提高资源使用效率,节约成本,应用价值高。

权利要求书

1.  一种云平台ELB组件的资源扩展方法,其特征在于,包括以下步骤:
根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m;
根据获取的历史数据中服务请求数量计算聚合值增长率k;
将实时服务请求数量与服务实例最大处理能力进行比较,所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数n实时的乘积确定;
当所述实时服务请求数量大于所述服务实例最大处理能力时,计算所述聚合值增长率k与所述单个服务实例平均每秒增量m的比值,根据所述比值进行资源扩展。

2.
  根据权利要求1所述的云平台ELB组件的资源扩展方法,其特征在于,所述单个服务实例受理的最大服务请求数量maxRpt通过公式:maxRpt=Rps×Δt×AUR确定,所述单个服务实例平均每秒增量m通过公式:t确定,其中Rps表示单个服务实例每秒受理的最大服务请求数量,Δt表示两次任务执行的时间间隔,AUR表示报警上限,t表示服务实例启动延时。

3.
  根据权利要求1或2所述的云平台ELB组件的资源扩展方法,其特征在于,所述聚合值增长率k通过公式:确定,其中vi(t)表示历史数据中t时刻第i个节点的服务请求数量,n表示节点总数,Δt表示两次任务执行的时间间隔。

4.
  根据权利要求1所述的云平台ELB组件的资源扩展方法,其特征在于,在所述根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数进行计算之前,还包括步骤:
配置云平台ELB组件的自动弹性扩展参数和服务集群参数。

5.
  根据权利要求4所述的云平台ELB组件的资源扩展方法,其特征在于,在所述配置云平台ELB组件的自动弹性扩展参数和服务集群参数之后,所述根 据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数进行计算之前,还包括步骤:
配置云平台ELB组件的日志信息。

6.
  一种云平台ELB组件的资源扩展装置,其特征在于,包括:
处理模块,用于根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m,并根据获取的历史数据中服务请求数量计算聚合值增长率k;
比较模块,用于将实时服务请求数量与服务实例最大处理能力进行比较,所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数n实时的乘积确定;
资源扩展模块,用于当所述实时服务请求数量大于所述服务实例最大处理能力时,计算所述聚合值增长率k与所述单个服务实例平均每秒增量m的比值,根据所述比值进行资源扩展。

7.
  根据权利要求6所述的云平台ELB组件的资源扩展装置,其特征在于,所述单个服务实例受理的最大服务请求数量maxRpt通过公式:maxRpt=Rps×Δt×AUR确定,所述单个服务实例平均每秒增量m通过公式:确定,其中Rps表示单个服务实例每秒受理的最大服务请求数量,Δt表示两次任务执行的时间间隔,AUR表示报警上限,t表示服务实例启动延时。

8.
  根据权利要求6或7所述的云平台ELB组件的资源扩展装置,其特征在于,所述聚合值增长率k通过公式:确定,其中vi(t)表示历史数据中t时刻第i个节点的服务请求数量,n表示节点总数,Δt表示两次任务执行的时间间隔。

9.
  根据权利要求6所述的云平台ELB组件的资源扩展装置,其特征在于,还包括配置模块,用于配置云平台ELB组件的自动弹性扩展参数和服务集群参数;
所述处理模块根据从所述配置模块读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m。

10.
  根据权利要求9所述的云平台ELB组件的资源扩展装置,其特征在于,所述配置模块还用于配置云平台ELB组件的日志信息。

说明书

云平台ELB组件的资源扩展方法和装置
技术领域
本发明涉及云计算技术应用技术领域,特别是涉及一种云平台ELB组件的资源扩展方法和装置。
背景技术
云平台一个天然的特点就是面向高并发的访问,而解决高并发访问中响应速度的问题,将需要有一个负载均衡的办法来解决。负载均衡的核心思想就是通过将请求分散到不同的服务端进行处理,这样将会提升整个平台的吞吐效率。类似的ELB(Elastic Load Balancer,弹性负载均衡器)在CloudFoundry(一个PaaS云平台)、Google App Engine(谷歌网络应用程序)都会起着很重要的作用。在Stratos(一种PaaS服务平台)中,ELB主要是对Cartridge访问的一个负载均衡,当过多的开发者需要同一个Cartridge时,将会先通过ELB进行一个请求分流,再将不同请求流分发到不同Cartridge,从而获取Cartridge的映射。
由于弹性是云计算平台最为重要的特性之一,也是评价云计算平台能力的重要标准,所以云计算平台的弹性扩展决策尤为重要。弹性扩展决策方法的好坏将直接关系到云计算平台是否能够按照用户的要求在适当的时间进行扩展,所以在云计算平台弹性扩展决策方面产生了大量的研究,也产生了成熟的产品。Auto Scaling(弹性扩展)是Amazon EC2云计算平台上的自动扩展服务,其功能是根据用户定义的触发器自动地创建或终止EC2虚拟机实例。Auto Scaling服务的基本工作方式如图1所示。图1中的Trigger(触发器)即为用户定义的触发器。根据图中触发器定义的规则,当平均CPU(Central Processing Unit,中央处理器)利用率大于80%时,将EC2实例增加10%,而当平均CPU利用率小于40%时,将EC2实例减少10%。图中的Launch Configurations(启动配置)用来指定创建新的EC2实例所需要的参数。Amazon EC2上的另一个服务CloudWatch(云监控)负责监控EC2,根据CloudWatch得到的监控数 据以及触发器中定义的扩展和收缩规则,Auto Scaling将自动对EC2进行扩展或收缩。
响应式扩展决策方法是根据当前云计算平台的负载以及人为设定的扩展规则进行自动弹性扩展的一种方法。Auto Scaling的弹性扩展方法即可归类于响应式扩展决策方法。由于这一类扩展决策方法完全依赖于对云计算平台的监控结果以及人为设定的扩展规则,实现相对比较简单,所以商业化的云计算平台多采用这种方法进行弹性扩展决策。但这类方法的缺陷是十分明显的,响应式扩展决策方法不考虑云计算平台弹性扩展所需要的时间,只是简单地在监控结果满足扩展规则时开始弹性扩展,所以导致用户需要经历一段延迟时间才能得到所需的资源。
预测式扩展决策方法是通过对云计算平台未来的负载量进行预测从而进行弹性扩展决策的方法。这类方法将云计算平台的历史监控值看作一个可预测的序列,并对该序列进行数学建模,可以使用回归、时间序列相似度分析等方法,那么下一个时间点的监控值就可以使用数学模型在下一个时间点的取值进行预测。在对云计算平台未来负载量进行预测后,就可以利用预测结果判断何时应该进行弹性扩展,做出弹性扩展决策。基于模式匹配的扩展决策方法,通过改进KMP(线性时间字符串匹配算法)算法对云计算平台的未来负载量进行预测,从而进行扩展决策。预测式扩展决策方法能够应对云计算平台扩展所需的延迟时间,但同时由于需要根据历史负载量预测未来负载量,这种方法需要详细准确的历史监控数据作为支撑。现有的关于服务质量监控的研究采用了不同的架构、协议或算法达到了在产生少量通信负载的情况下进行服务质量监控的目的,但其前提是在服务质量监控的场景中不需要得到准确的监控值,或者不要求在短时间内得到监控结果,所以现有的服务质量监控方法并不能及时获得详细准确的监控数据,所以并不能很好地支撑扩展决策。
在云平台ELB组件的实际应用中,一般的做法是直接采用响应式扩展策略,响应式扩展决策方法不考虑云计算平台弹性扩展所需要的时间,只是简单地在监控结果满足扩展规则时开始弹性扩展,所以导致用户需要经历一段延迟时间才能得到所需的资源。预测式扩展决策方法能够应对云计算平台扩展所需的延 迟时间,但同时由于需要根据历史负载量预测未来负载量,这种方法需要详细准确的历史监控数据作为支撑,实际工作中工作量往往较大,不能满足实际工作的需求。
发明内容
基于上述情况,本发明提出了一种云平台ELB组件的资源扩展方法,高效快速的响应高负载情况的请求响应,提高云平台的响应能力,提高资源使用效率,节约成本,具有很高的应用价值。
为了实现上述目的,本发明技术方案的实施例为:
一种云平台ELB组件的资源扩展方法,包括以下步骤:
根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m;
根据获取的历史数据中服务请求数量计算聚合值增长率k;
将实时服务请求数量与服务实例最大处理能力进行比较,所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数n实时的乘积确定;
当所述实时服务请求数量大于所述服务实例最大处理能力时,计算所述聚合值增长率k与所述单个服务实例平均每秒增量m的比值,根据所述比值进行资源扩展。
针对现有技术问题,本发明还提出了一种云平台ELB组件的资源扩展装置,有效解决现有响应式扩展导致用户需要经历一段延迟时间、预测式扩展工作量大不能满足实际工作需求的问题,适合应用。
本发明技术方案的实施例为:
一种云平台ELB组件的资源扩展装置,包括:
处理模块,用于根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m,并根据获取的历史数据中服务请求数量计算聚合值增长率k;
比较模块,用于将实时服务请求数量与服务实例最大处理能力进行比较, 所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数n实时的乘积确定;
资源扩展模块,用于当所述实时服务请求数量大于所述服务实例最大处理能力时,计算所述聚合值增长率k与所述单个服务实例平均每秒增量m的比值,根据所述比值进行资源扩展。
与现有技术相比,本发明的有益效果为:本发明云平台ELB组件的资源扩展方法和装置,通过引入单个服务实例受理的最大服务请求数量、单个服务实例平均每秒增量和聚合值增长率等参数,计算聚合值增长率与单个服务实例平均每秒增量的比值,根据该比值预测需要启动的服务实例的个数,提前启动服务实例,在峰值到来之前,达到峰值性能需求的资源量扩展,有效的克服了响应式扩展决策方法不考虑弹性扩展所需要的时间,导致用户需要经历一段延迟时间才能得到所需的资源的问题,同时降低了预测式扩展决策需要计算拟合分析大量历史负载量预测未来负载量,高效快速的响应高负载情况的请求响应,提高云平台的响应能力,提高资源使用效率,节约成本,具有很高的应用价值。
附图说明
图1为现有Auto Scaling服务基本工作方式示意图;
图2为一个实施例中云平台ELB组件的资源扩展方法流程图;
图3为基于图2所示方法一个具体示例中云平台ELB组件的资源扩展方法流程图;
图4为一个实施例中云平台ELB组件的资源扩展装置结构示意图。
具体实施方式
为使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步的详细说明。应当理解,此处所描述的具体实施方式仅仅用以解释本发明,并不限定本发明的保护范围。
一个实施例中云平台ELB组件的资源扩展方法,如图2所示,包括以下步骤:
步骤S201:根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m;
步骤S202:根据获取的历史数据中服务请求数量计算聚合值增长率k;
步骤S203:将实时服务请求数量与服务实例最大处理能力进行比较,所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数n实时的乘积确定;
步骤S204:当所述实时服务请求数量大于所述服务实例最大处理能力时,计算所述聚合值增长率k与所述单个服务实例平均每秒增量m的比值,根据所述比值进行资源扩展。
从以上描述可知,本发明云平台ELB组件的资源扩展方法,高效快速的响应高负载情况的请求响应,提高云平台的响应能力,提高资源使用效率,适合实际应用。
作为一个实施例,所述单个服务实例受理的最大服务请求数量maxRpt通过公式:maxRpt=Rps×Δt×AUR确定,所述单个服务实例平均每秒增量m通过公式:确定,其中Rps表示单个服务实例每秒受理的最大服务请求数量,Δt表示两次任务执行的时间间隔,AUR表示报警上限,t表示服务实例启动延时;
通过云平台ELB组件中配置的参数计算单个服务实例受理的最大服务请求数量、单个服务实例平均每秒增量的参数值,预测未来峰值能力,提前启动服务实例,具有很高的应用价值。
作为一个实施例,所述聚合值增长率k通过公式:确定,其中vi(t)表示历史数据中t时刻第i个节点的服务请求数量,n表示节点总数,Δt表示两次任务执行的时间间隔,保证后续处理正常进行,适合实际应用。
作为一个实施例,在所述根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数进行计算之前,还包括步骤:
配置云平台ELB组件的自动弹性扩展参数和服务集群参数,根据实际情况配置参数,充分满足实际需求,适合应用。
作为一个实施例,在所述配置云平台ELB组件的自动弹性扩展参数和服务集群参数之后,所述根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数进行计算之前,还包括步骤:
配置云平台ELB组件的日志信息,实现日志功能,跟踪详细的算法设计流程和计算方法,适合实际应用。
为了更好地理解本方法,以下详细阐述一个本发明应用于云平台ELB组件的资源扩展方法的应用实例,该应用实例是在WSO2-StratOS PaaS云平台ELB组件中实现的。
WSO2Stratos是一个开源的PaaS平台,它主要为企业级应用开发提供基于云的解决方案,目前WSO2Stratos对外提供了ApplicationServer(应用服务器)、Elastic Load Balancer(弹性负载均衡器)等十六种服务组件,每种服务组件都会负责提供特定的功能,而所有的服务组件又通过WebService(一个web的应用程序)进行相互通信,最终由所有这些服务组件组成了WSO2Stratos平台,WSO2Stratos整体架构,WSO2Stratos作为一个PaaS平台对外提供的解决方案,都是通过组合不同的服务组件来实现。
如图3所示,该应用实例可以包括以下步骤:
步骤S301:配置WSO2-StratOS PaaS云平台ELB组件的自动弹性扩展参数、服务集群参数:
自动弹性扩展参数配置:(1)启动弹性扩展,默认情况下ELB中的自动扩展功能是关闭的,需要到<ELB_HOME>/repository/conf/loadbalancer.conf文件中,到′loadbalancer′修改属性,′enable_autoscaler′=′true′;(2)autoscaler_task_delay表示两个任务执行之间的时间间隔;(3)server_startup_delay表示自动扩展任务在启动之前等待的最长时间周期,指的是由于网络问题服务实例加入ELB的时间延迟;(4)instances表示ELB中最小服务实例个数;(5)enable_autoscaler表示是否启动自动弹性扩展;(6)autoscaler_task表示自动弹性扩展决定生成任务,配置为org.wso2.carbon.mediator.autoscale.lbautoscale.task.ServiceRequestsIn  FlightAutoscaler;(7)use_embedded_autoscaler表示是否使用内置的自动弹性扩展器;(8)size_of_cache表示缓存大小;(9)autoscaler_service_epr表示自动弹性扩展器服务终端点引用,配置为https://host_address:https_port/services/AutoscalerService;(10)autoscaler_task_interval表示两次任务执行的时间间隔(Δt,毫秒);(11)server_startup_interval表示服务实例启动延时(t);(12)session_timeout表示会话超时;(13)fail_over失效备援是否启动;
服务集群参数配置:(1)min_app_instances表示最小服务实例个数,自动扩展器向下扩展不会低于该值;(2)max_app_instances表示最大的服务实例个数,自动扩展器向上扩展不会超过该值;(3)max_requests_per_second(Rps)单个服务实例每秒受理的最大服务请求数量;(4)rounds_to_average(r)自动扩展的迭代次数;(5)alarming_upper_rate(AUR)表示报警上限,取值范围是0~1,默认是0.7;(6)message_expiry_time表示消息过期时间;
步骤S302:配置WSO2-StratOS PaaS云平台ELB组件的日志信息,在<ELB_HOME>/repository/conf/log4j.properties文件中添加log4j.logger.org.wso2.carbon.mediator.autoscale.lbautoscale.task.ServiceRequestsInFlightAutoscaler=DEBUG重启服务器实现日志功能,跟踪详细的算法设计流程和计算方法;
步骤S303:读取WSO2-StratOS PaaS云平台ELB组件的自动弹性扩展参数、服务集群参数,根据读取的参数计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m,其中单个服务实例受理的最大服务请求数量maxRpt通过公式:maxRpt=Rps×Δt×AUR确定,单个服务实例平均每秒增量m通过公式:确定,其中Rps表示单个服务实例每秒受理的最大服务请求数量,Δt表示两次任务执行的时间间隔,AUR表示报警上限,t表示服务实例启动延时;
步骤S304:根据获取的历史数据中服务请求数量计算聚合值Vtotal、平均节点聚合值Vavg和聚合值增长率k,其中聚合值Vtotal通过公式:确定, 平均节点聚合值Vavg通过公式:确定,聚合值增长率k通过公式:确定,其中vi(t)表示历史数据中t时刻第i个节点的服务请求数量,n表示节点总数,Δt表示两次任务执行的时间间隔,在本应用实例中节点总数n=1;
步骤S305:将实时服务请求数量与服务实例最大处理能力进行比较,该服务实例最大处理能力通过上述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数n实时的乘积确定;
步骤S306:当实时服务请求数量大于上述服务实例最大处理能力时,计算上述聚合值增长率k与单个服务实例平均每秒增量m的比值,根据该比值进行资源扩展;
配置参数说明:两次任务执行的时间间隔Δt60000ms、单个服务实例每秒受理的最大服务请求数量Rps5、报警上限AUR0.7、最小服务实例个数1、服务实例启动延时t180000ms,即autoscaler_task_interval(Δt)60000ms、max_requests_per_second(Rps)5、alarming_upper_rate(AUR)0.7、min_app_instances1、server_startup_interval(t)180000ms;
计算得到单个服务实例受理的最大服务请求数量:
maxRpt=Rps×Δt×AUR=5×600001000×0.7=210;]]>
单个服务实例平均每秒增量:
在WSO2-StratOS PaaS云平台ELB组件中进行资源扩展的过程一可以如下面表1所示;
表1过程一


如表1所示第3次迭代实时服务请求数量大于服务实例最大处理能力,即大于所述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数n实时的乘积,即250>210,计算聚合值增长率k与单个服务实例平均每秒增量m的比值,根据此比值进行资源扩展,第3次迭代聚合值增长率k的值为4.15,则聚合值增长率k与单个服务实例平均每秒增量m的比值取整,得到需要在第2次迭代的时候,应启动4台服务实例进行资源扩展,这样在第3次迭代的时候,在考虑服务器启动延时的情况下,可以满足请求性能需求,有效的防止服务实例使用过载,造成请求延时或中断的问题,在WSO2-StratOS PaaS云平台ELB组件中进行资源扩展的过程二可以如下面表2所示;
表2过程二


在本应用实例中server_startup_interval(t)180000ms,即服务实例启动延时t=180000ms,每次迭代的时间间隔为1min,所以在第2次迭代的时候启动的4台服务实例,逐步启动,第3次迭代的时候已经启动了1台,实时运行服务实例个数n实时=2,第4次迭代的时候已经启动了2台,实时运行服务实例个数n实时=3,第5次迭代的时候已经启动了3台,实时运行服务实例个数n实时=4,第6次迭代的时候已经启动了4台,实时运行服务实例个数n实时=5。
在WSO2-StratOS中的ELB组件中引入聚合值、平均节点聚合值、以及聚合值增长率等参数值,通过计算聚合值增长率与单个服务实例平均每秒增量的比值,预测需要启动的服务实例的个数,因此,能够在下次请求峰值到来之前,服务实例的数量刚好可以满足性能需求,克服了服务器启动延时带来的服务压 力过载,不能满足峰值请求的压力要求,也克服了paas框架中ELB组件的固有算法缺陷,减少了历史拟合带来的大量工作,提高了资源使用效率,节约成本。
一个实施例中云平台ELB组件的资源扩展装置,如图4所示,包括:
处理模块,用于根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m,并根据获取的历史数据中服务请求数量计算聚合值增长率k;
比较模块,用于将实时服务请求数量与服务实例最大处理能力进行比较,所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数n实时的乘积确定;
资源扩展模块,用于当所述实时服务请求数量大于所述服务实例最大处理能力时,计算所述聚合值增长率k与所述单个服务实例平均每秒增量m的比值,根据所述比值进行资源扩展。
如图4所示,本装置各模块连接关系的一个优选的实施例为:处理模块、比较模块和资源扩展模块依次顺序连接。
首先处理模块根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m,根据获取的历史数据中服务请求数量计算聚合值增长率k;然后比较模块将实时服务数量请求与服务实例最大处理能力进行比较;当实时服务数量请求大于服务实例最大处理能力时,资源扩展模块计算聚合值增长率k与单个服务实例平均每秒增量m的比值,根据该比值进行资源扩展。
从以上描述可知,本发明云平台ELB组件的资源扩展装置,有效解决现有响应式扩展导致用户需要经历一段延迟时间、预测式扩展工作量大不能满足实际工作需求的问题,适合应用。
作为一个实施例,所述单个服务实例受理的最大服务请求数量maxRpt通过公式:maxRpt=Rps×Δt×AUR确定,所述单个服务实例平均每秒增量m通过公式:确定,其中Rps表示单个服务实例每秒受理的最大服务请求数量,Δt表示两次任务执行的时间间隔,AUR表示报警上限,t表示服务实例启动延时;
通过云平台ELB组件中配置的参数计算单个服务实例受理的最大服务请求数量、单个服务实例平均每秒增量的参数值,预测未来峰值能力,提前启动服务实例,具有很高的应用价值。
作为一个实施例,所述聚合值增长率k通过公式:确定,其中vi(t)表示历史数据中t时刻第i个节点的服务请求数量,n表示节点总数,Δt表示两次任务执行的时间间隔,保证后续处理正常进行,适合实际应用。
作为一个实施例,还包括配置模块,用于配置云平台ELB组件的自动弹性扩展参数和服务集群参数;
所述处理模块根据从所述配置模块读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m,根据实际情况配置参数,充分满足实际需求,适合应用。
作为一个实施例,所述配置模块还用于配置云平台ELB组件的日志信息,实现日志功能,跟踪详细的算法设计流程和计算方法,适合实际应用。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

云平台ELB组件的资源扩展方法和装置.pdf_第1页
第1页 / 共16页
云平台ELB组件的资源扩展方法和装置.pdf_第2页
第2页 / 共16页
云平台ELB组件的资源扩展方法和装置.pdf_第3页
第3页 / 共16页
点击查看更多>>
资源描述

《云平台ELB组件的资源扩展方法和装置.pdf》由会员分享,可在线阅读,更多相关《云平台ELB组件的资源扩展方法和装置.pdf(16页珍藏版)》请在专利查询网上搜索。

1、10申请公布号CN104135525A43申请公布日20141105CN104135525A21申请号201410375345522申请日20140731H04L29/0820060171申请人广州杰赛科技股份有限公司地址510310广东省广州市海珠区新港中路381号72发明人王旭周冠宇温云龙宋吉鹏74专利代理机构广州华进联合专利商标代理有限公司44224代理人周清华崔春54发明名称云平台ELB组件的资源扩展方法和装置57摘要本发明公开了一种云平台ELB组件的资源扩展方法和装置,首先根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量MAXRPT和。

2、单个服务实例平均每秒增量M;根据获取的历史数据中服务请求数量计算聚合值增长率K;将实时服务请求数量与服务实例最大处理能力进行比较;当实时服务请求数量大于服务实例最大处理能力时,计算聚合值增长率K与单个服务实例平均每秒增量M的比值,根据所述比值进行资源扩展。本发明高效快速的响应高负载情况的请求响应,提高云平台的响应能力,提高资源使用效率,节约成本,应用价值高。51INTCL权利要求书2页说明书9页附图4页19中华人民共和国国家知识产权局12发明专利申请权利要求书2页说明书9页附图4页10申请公布号CN104135525ACN104135525A1/2页21一种云平台ELB组件的资源扩展方法,其特。

3、征在于,包括以下步骤根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量MAXRPT和单个服务实例平均每秒增量M;根据获取的历史数据中服务请求数量计算聚合值增长率K;将实时服务请求数量与服务实例最大处理能力进行比较,所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量MAXRPT与实时运行服务实例个数N实时的乘积确定;当所述实时服务请求数量大于所述服务实例最大处理能力时,计算所述聚合值增长率K与所述单个服务实例平均每秒增量M的比值,根据所述比值进行资源扩展。2根据权利要求1所述的云平台ELB组件的资源扩展方法,其特征在于,所述单个服务。

4、实例受理的最大服务请求数量MAXRPT通过公式MAXRPTRPSTAUR确定,所述单个服务实例平均每秒增量M通过公式T确定,其中RPS表示单个服务实例每秒受理的最大服务请求数量,T表示两次任务执行的时间间隔,AUR表示报警上限,T表示服务实例启动延时。3根据权利要求1或2所述的云平台ELB组件的资源扩展方法,其特征在于,所述聚合值增长率K通过公式确定,其中VIT表示历史数据中T时刻第I个节点的服务请求数量,N表示节点总数,T表示两次任务执行的时间间隔。4根据权利要求1所述的云平台ELB组件的资源扩展方法,其特征在于,在所述根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数进行计算之前,。

5、还包括步骤配置云平台ELB组件的自动弹性扩展参数和服务集群参数。5根据权利要求4所述的云平台ELB组件的资源扩展方法,其特征在于,在所述配置云平台ELB组件的自动弹性扩展参数和服务集群参数之后,所述根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数进行计算之前,还包括步骤配置云平台ELB组件的日志信息。6一种云平台ELB组件的资源扩展装置,其特征在于,包括处理模块,用于根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量MAXRPT和单个服务实例平均每秒增量M,并根据获取的历史数据中服务请求数量计算聚合值增长率K;比较模块,用于将实时服务请。

6、求数量与服务实例最大处理能力进行比较,所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量MAXRPT与实时运行服务实例个数N实时的乘积确定;资源扩展模块,用于当所述实时服务请求数量大于所述服务实例最大处理能力时,计算所述聚合值增长率K与所述单个服务实例平均每秒增量M的比值,根据所述比值进行资源扩展。7根据权利要求6所述的云平台ELB组件的资源扩展装置,其特征在于,所述单个服务实例受理的最大服务请求数量MAXRPT通过公式MAXRPTRPSTAUR确定,所述单个权利要求书CN104135525A2/2页3服务实例平均每秒增量M通过公式确定,其中RPS表示单个服务实例每秒受理的最大。

7、服务请求数量,T表示两次任务执行的时间间隔,AUR表示报警上限,T表示服务实例启动延时。8根据权利要求6或7所述的云平台ELB组件的资源扩展装置,其特征在于,所述聚合值增长率K通过公式确定,其中VIT表示历史数据中T时刻第I个节点的服务请求数量,N表示节点总数,T表示两次任务执行的时间间隔。9根据权利要求6所述的云平台ELB组件的资源扩展装置,其特征在于,还包括配置模块,用于配置云平台ELB组件的自动弹性扩展参数和服务集群参数;所述处理模块根据从所述配置模块读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量MAXRPT和单个服务实例平均每秒增量M。1。

8、0根据权利要求9所述的云平台ELB组件的资源扩展装置,其特征在于,所述配置模块还用于配置云平台ELB组件的日志信息。权利要求书CN104135525A1/9页4云平台ELB组件的资源扩展方法和装置技术领域0001本发明涉及云计算技术应用技术领域,特别是涉及一种云平台ELB组件的资源扩展方法和装置。背景技术0002云平台一个天然的特点就是面向高并发的访问,而解决高并发访问中响应速度的问题,将需要有一个负载均衡的办法来解决。负载均衡的核心思想就是通过将请求分散到不同的服务端进行处理,这样将会提升整个平台的吞吐效率。类似的ELBELASTICLOADBALANCER,弹性负载均衡器在CLOUDFOU。

9、NDRY一个PAAS云平台、GOOGLEAPPENGINE谷歌网络应用程序都会起着很重要的作用。在STRATOS一种PAAS服务平台中,ELB主要是对CARTRIDGE访问的一个负载均衡,当过多的开发者需要同一个CARTRIDGE时,将会先通过ELB进行一个请求分流,再将不同请求流分发到不同CARTRIDGE,从而获取CARTRIDGE的映射。0003由于弹性是云计算平台最为重要的特性之一,也是评价云计算平台能力的重要标准,所以云计算平台的弹性扩展决策尤为重要。弹性扩展决策方法的好坏将直接关系到云计算平台是否能够按照用户的要求在适当的时间进行扩展,所以在云计算平台弹性扩展决策方面产生了大量的研。

10、究,也产生了成熟的产品。AUTOSCALING弹性扩展是AMAZONEC2云计算平台上的自动扩展服务,其功能是根据用户定义的触发器自动地创建或终止EC2虚拟机实例。AUTOSCALING服务的基本工作方式如图1所示。图1中的TRIGGER触发器即为用户定义的触发器。根据图中触发器定义的规则,当平均CPUCENTRALPROCESSINGUNIT,中央处理器利用率大于80时,将EC2实例增加10,而当平均CPU利用率小于40时,将EC2实例减少10。图中的LAUNCHCONGURATIONS启动配置用来指定创建新的EC2实例所需要的参数。AMAZONEC2上的另一个服务CLOUDWATCH云监控。

11、负责监控EC2,根据CLOUDWATCH得到的监控数据以及触发器中定义的扩展和收缩规则,AUTOSCALING将自动对EC2进行扩展或收缩。0004响应式扩展决策方法是根据当前云计算平台的负载以及人为设定的扩展规则进行自动弹性扩展的一种方法。AUTOSCALING的弹性扩展方法即可归类于响应式扩展决策方法。由于这一类扩展决策方法完全依赖于对云计算平台的监控结果以及人为设定的扩展规则,实现相对比较简单,所以商业化的云计算平台多采用这种方法进行弹性扩展决策。但这类方法的缺陷是十分明显的,响应式扩展决策方法不考虑云计算平台弹性扩展所需要的时间,只是简单地在监控结果满足扩展规则时开始弹性扩展,所以导致。

12、用户需要经历一段延迟时间才能得到所需的资源。0005预测式扩展决策方法是通过对云计算平台未来的负载量进行预测从而进行弹性扩展决策的方法。这类方法将云计算平台的历史监控值看作一个可预测的序列,并对该序列进行数学建模,可以使用回归、时间序列相似度分析等方法,那么下一个时间点的监控值就可以使用数学模型在下一个时间点的取值进行预测。在对云计算平台未来负载量进行预说明书CN104135525A2/9页5测后,就可以利用预测结果判断何时应该进行弹性扩展,做出弹性扩展决策。基于模式匹配的扩展决策方法,通过改进KMP线性时间字符串匹配算法算法对云计算平台的未来负载量进行预测,从而进行扩展决策。预测式扩展决策方。

13、法能够应对云计算平台扩展所需的延迟时间,但同时由于需要根据历史负载量预测未来负载量,这种方法需要详细准确的历史监控数据作为支撑。现有的关于服务质量监控的研究采用了不同的架构、协议或算法达到了在产生少量通信负载的情况下进行服务质量监控的目的,但其前提是在服务质量监控的场景中不需要得到准确的监控值,或者不要求在短时间内得到监控结果,所以现有的服务质量监控方法并不能及时获得详细准确的监控数据,所以并不能很好地支撑扩展决策。0006在云平台ELB组件的实际应用中,一般的做法是直接采用响应式扩展策略,响应式扩展决策方法不考虑云计算平台弹性扩展所需要的时间,只是简单地在监控结果满足扩展规则时开始弹性扩展,。

14、所以导致用户需要经历一段延迟时间才能得到所需的资源。预测式扩展决策方法能够应对云计算平台扩展所需的延迟时间,但同时由于需要根据历史负载量预测未来负载量,这种方法需要详细准确的历史监控数据作为支撑,实际工作中工作量往往较大,不能满足实际工作的需求。发明内容0007基于上述情况,本发明提出了一种云平台ELB组件的资源扩展方法,高效快速的响应高负载情况的请求响应,提高云平台的响应能力,提高资源使用效率,节约成本,具有很高的应用价值。0008为了实现上述目的,本发明技术方案的实施例为0009一种云平台ELB组件的资源扩展方法,包括以下步骤0010根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参。

15、数,计算单个服务实例受理的最大服务请求数量MAXRPT和单个服务实例平均每秒增量M;0011根据获取的历史数据中服务请求数量计算聚合值增长率K;0012将实时服务请求数量与服务实例最大处理能力进行比较,所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量MAXRPT与实时运行服务实例个数N实时的乘积确定;0013当所述实时服务请求数量大于所述服务实例最大处理能力时,计算所述聚合值增长率K与所述单个服务实例平均每秒增量M的比值,根据所述比值进行资源扩展。0014针对现有技术问题,本发明还提出了一种云平台ELB组件的资源扩展装置,有效解决现有响应式扩展导致用户需要经历一段延迟时间、预。

16、测式扩展工作量大不能满足实际工作需求的问题,适合应用。0015本发明技术方案的实施例为0016一种云平台ELB组件的资源扩展装置,包括0017处理模块,用于根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量MAXRPT和单个服务实例平均每秒增量M,并根据获取的历史数据中服务请求数量计算聚合值增长率K;0018比较模块,用于将实时服务请求数量与服务实例最大处理能力进行比较,所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量MAXRPT与实时运行说明书CN104135525A3/9页6服务实例个数N实时的乘积确定;0019资源扩展模块。

17、,用于当所述实时服务请求数量大于所述服务实例最大处理能力时,计算所述聚合值增长率K与所述单个服务实例平均每秒增量M的比值,根据所述比值进行资源扩展。0020与现有技术相比,本发明的有益效果为本发明云平台ELB组件的资源扩展方法和装置,通过引入单个服务实例受理的最大服务请求数量、单个服务实例平均每秒增量和聚合值增长率等参数,计算聚合值增长率与单个服务实例平均每秒增量的比值,根据该比值预测需要启动的服务实例的个数,提前启动服务实例,在峰值到来之前,达到峰值性能需求的资源量扩展,有效的克服了响应式扩展决策方法不考虑弹性扩展所需要的时间,导致用户需要经历一段延迟时间才能得到所需的资源的问题,同时降低了。

18、预测式扩展决策需要计算拟合分析大量历史负载量预测未来负载量,高效快速的响应高负载情况的请求响应,提高云平台的响应能力,提高资源使用效率,节约成本,具有很高的应用价值。附图说明0021图1为现有AUTOSCALING服务基本工作方式示意图;0022图2为一个实施例中云平台ELB组件的资源扩展方法流程图;0023图3为基于图2所示方法一个具体示例中云平台ELB组件的资源扩展方法流程图;0024图4为一个实施例中云平台ELB组件的资源扩展装置结构示意图。具体实施方式0025为使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步的详细说明。应当理解,此处所描述的具体实施。

19、方式仅仅用以解释本发明,并不限定本发明的保护范围。0026一个实施例中云平台ELB组件的资源扩展方法,如图2所示,包括以下步骤0027步骤S201根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量MAXRPT和单个服务实例平均每秒增量M;0028步骤S202根据获取的历史数据中服务请求数量计算聚合值增长率K;0029步骤S203将实时服务请求数量与服务实例最大处理能力进行比较,所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量MAXRPT与实时运行服务实例个数N实时的乘积确定;0030步骤S204当所述实时服务请求数量大于所述服务。

20、实例最大处理能力时,计算所述聚合值增长率K与所述单个服务实例平均每秒增量M的比值,根据所述比值进行资源扩展。0031从以上描述可知,本发明云平台ELB组件的资源扩展方法,高效快速的响应高负载情况的请求响应,提高云平台的响应能力,提高资源使用效率,适合实际应用。0032作为一个实施例,所述单个服务实例受理的最大服务请求数量MAXRPT通过公式MAXRPTRPSTAUR确定,所述单个服务实例平均每秒增量M通过公式说明书CN104135525A4/9页7确定,其中RPS表示单个服务实例每秒受理的最大服务请求数量,T表示两次任务执行的时间间隔,AUR表示报警上限,T表示服务实例启动延时;0033通过云。

21、平台ELB组件中配置的参数计算单个服务实例受理的最大服务请求数量、单个服务实例平均每秒增量的参数值,预测未来峰值能力,提前启动服务实例,具有很高的应用价值。0034作为一个实施例,所述聚合值增长率K通过公式确定,其中VIT表示历史数据中T时刻第I个节点的服务请求数量,N表示节点总数,T表示两次任务执行的时间间隔,保证后续处理正常进行,适合实际应用。0035作为一个实施例,在所述根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数进行计算之前,还包括步骤0036配置云平台ELB组件的自动弹性扩展参数和服务集群参数,根据实际情况配置参数,充分满足实际需求,适合应用。0037作为一个实施例,在。

22、所述配置云平台ELB组件的自动弹性扩展参数和服务集群参数之后,所述根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数进行计算之前,还包括步骤0038配置云平台ELB组件的日志信息,实现日志功能,跟踪详细的算法设计流程和计算方法,适合实际应用。0039为了更好地理解本方法,以下详细阐述一个本发明应用于云平台ELB组件的资源扩展方法的应用实例,该应用实例是在WSO2STRATOSPAAS云平台ELB组件中实现的。0040WSO2STRATOS是一个开源的PAAS平台,它主要为企业级应用开发提供基于云的解决方案,目前WSO2STRATOS对外提供了APPLICATIONSERVER应用服务器。

23、、ELASTICLOADBALANCER弹性负载均衡器等十六种服务组件,每种服务组件都会负责提供特定的功能,而所有的服务组件又通过WEBSERVICE一个WEB的应用程序进行相互通信,最终由所有这些服务组件组成了WSO2STRATOS平台,WSO2STRATOS整体架构,WSO2STRATOS作为一个PAAS平台对外提供的解决方案,都是通过组合不同的服务组件来实现。0041如图3所示,该应用实例可以包括以下步骤0042步骤S301配置WSO2STRATOSPAAS云平台ELB组件的自动弹性扩展参数、服务集群参数0043自动弹性扩展参数配置1启动弹性扩展,默认情况下ELB中的自动扩展功能是关闭的。

24、,需要到/REPOSITORY/CONF/LOADBALANCERCONF文件中,到LOADBALANCER修改属性,ENABLE_AUTOSCALERTRUE;2AUTOSCALER_TASK_DELAY表示两个任务执行之间的时间间隔;3SERVER_STARTUP_DELAY表示自动扩展任务在启动之前等待的最长时间周期,指的是由于网络问题服务实例加入ELB的时间延迟;4INSTANCES表示ELB中最小服务实例个数;5ENABLE_AUTOSCALER表示是否启动自动弹性扩展;6AUTOSCALER_TASK表示自动弹性扩展决定生成任务,配置为ORGWSO2CARBONMEDIATORAU。

25、TOSCALELBAUTOSCALETASKSERVICEREQUESTSINFLIGHTAUTOSCALER;7USE_EMBEDDED_AUTOSCALER表示是否使用内置的自动弹性扩展器;说明书CN104135525A5/9页88SIZE_OF_CACHE表示缓存大小;9AUTOSCALER_SERVICE_EPR表示自动弹性扩展器服务终端点引用,配置为HTTPS/HOST_ADDRESSHTTPS_PORT/SERVICES/AUTOSCALERSERVICE;10AUTOSCALER_TASK_INTERVAL表示两次任务执行的时间间隔T,毫秒;11SERVER_STARTUP_IN。

26、TERVAL表示服务实例启动延时T;12SESSION_TIMEOUT表示会话超时;13FAIL_OVER失效备援是否启动;0044服务集群参数配置1MIN_APP_INSTANCES表示最小服务实例个数,自动扩展器向下扩展不会低于该值;2MAX_APP_INSTANCES表示最大的服务实例个数,自动扩展器向上扩展不会超过该值;3MAX_REQUESTS_PER_SECONDRPS单个服务实例每秒受理的最大服务请求数量;4ROUNDS_TO_AVERAGER自动扩展的迭代次数;5ALARMING_UPPER_RATEAUR表示报警上限,取值范围是01,默认是07;6MESSAGE_EXPIRY。

27、_TIME表示消息过期时间;0045步骤S302配置WSO2STRATOSPAAS云平台ELB组件的日志信息,在/REPOSITORY/CONF/LOG4JPROPERTIES文件中添加LOG4JLOGGERORGWSO2CARBONMEDIATORAUTOSCALELBAUTOSCALETASKSERVICEREQUESTSINFLIGHTAUTOSCALERDEBUG重启服务器实现日志功能,跟踪详细的算法设计流程和计算方法;0046步骤S303读取WSO2STRATOSPAAS云平台ELB组件的自动弹性扩展参数、服务集群参数,根据读取的参数计算单个服务实例受理的最大服务请求数量MAXRPT。

28、和单个服务实例平均每秒增量M,其中单个服务实例受理的最大服务请求数量MAXRPT通过公式MAXRPTRPSTAUR确定,单个服务实例平均每秒增量M通过公式确定,其中RPS表示单个服务实例每秒受理的最大服务请求数量,T表示两次任务执行的时间间隔,AUR表示报警上限,T表示服务实例启动延时;0047步骤S304根据获取的历史数据中服务请求数量计算聚合值VTOTAL、平均节点聚合值VAVG和聚合值增长率K,其中聚合值VTOTAL通过公式确定,平均节点聚合值VAVG通过公式确定,聚合值增长率K通过公式确定,其中VIT表示历史数据中T时刻第I个节点的服务请求数量,N表示节点总数,T表示两次任务执行的时间。

29、间隔,在本应用实例中节点总数N1;0048步骤S305将实时服务请求数量与服务实例最大处理能力进行比较,该服务实例最大处理能力通过上述单个服务实例受理的最大服务请求数量MAXRPT与实时运行服务实例个数N实时的乘积确定;0049步骤S306当实时服务请求数量大于上述服务实例最大处理能力时,计算上述聚合值增长率K与单个服务实例平均每秒增量M的比值,根据该比值进行资源扩展;0050配置参数说明两次任务执行的时间间隔T60000MS、单个服务实例每秒受理的最大服务请求数量RPS5、报警上限AUR07、最小服务实例个数1、服务实例启动说明书CN104135525A6/9页9延时T180000MS,即A。

30、UTOSCALER_TASK_INTERVALT60000MS、MAX_REQUESTS_PER_SECONDRPS5、ALARMING_UPPER_RATEAUR07、MIN_APP_INSTANCES1、SERVER_STARTUP_INTERVALT180000MS;0051计算得到单个服务实例受理的最大服务请求数量00520053单个服务实例平均每秒增量0054在WSO2STRATOSPAAS云平台ELB组件中进行资源扩展的过程一可以如下面表1所示;0055表1过程一005600570058如表1所示第3次迭代实时服务请求数量大于服务实例最大处理能力,即大于所述单个服务实例受理的最大服。

31、务请求数量MAXRPT与实时运行服务实例个数N实时的乘积,即说明书CN104135525A7/9页10250210,计算聚合值增长率K与单个服务实例平均每秒增量M的比值,根据此比值进行资源扩展,第3次迭代聚合值增长率K的值为415,则聚合值增长率K与单个服务实例平均每秒增量M的比值取整,得到需要在第2次迭代的时候,应启动4台服务实例进行资源扩展,这样在第3次迭代的时候,在考虑服务器启动延时的情况下,可以满足请求性能需求,有效的防止服务实例使用过载,造成请求延时或中断的问题,在WSO2STRATOSPAAS云平台ELB组件中进行资源扩展的过程二可以如下面表2所示;0059表2过程二0060006。

32、10062在本应用实例中SERVER_STARTUP_INTERVALT180000MS,即服务实例启动延时T180000MS,每次迭代的时间间隔为1MIN,所以在第2次迭代的时候启动的4台服务实例,逐步启动,第3次迭代的时候已经启动了1台,实时运行服务实例个数N实时2,第4次迭代的时候已经启动了2台,实时运行服务实例个数N实时3,第5次迭代的时候已经启动了说明书CN104135525A108/9页113台,实时运行服务实例个数N实时4,第6次迭代的时候已经启动了4台,实时运行服务实例个数N实时5。0063在WSO2STRATOS中的ELB组件中引入聚合值、平均节点聚合值、以及聚合值增长率等参。

33、数值,通过计算聚合值增长率与单个服务实例平均每秒增量的比值,预测需要启动的服务实例的个数,因此,能够在下次请求峰值到来之前,服务实例的数量刚好可以满足性能需求,克服了服务器启动延时带来的服务压力过载,不能满足峰值请求的压力要求,也克服了PAAS框架中ELB组件的固有算法缺陷,减少了历史拟合带来的大量工作,提高了资源使用效率,节约成本。0064一个实施例中云平台ELB组件的资源扩展装置,如图4所示,包括0065处理模块,用于根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量MAXRPT和单个服务实例平均每秒增量M,并根据获取的历史数据中服务请求数量。

34、计算聚合值增长率K;0066比较模块,用于将实时服务请求数量与服务实例最大处理能力进行比较,所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量MAXRPT与实时运行服务实例个数N实时的乘积确定;0067资源扩展模块,用于当所述实时服务请求数量大于所述服务实例最大处理能力时,计算所述聚合值增长率K与所述单个服务实例平均每秒增量M的比值,根据所述比值进行资源扩展。0068如图4所示,本装置各模块连接关系的一个优选的实施例为处理模块、比较模块和资源扩展模块依次顺序连接。0069首先处理模块根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数。

35、量MAXRPT和单个服务实例平均每秒增量M,根据获取的历史数据中服务请求数量计算聚合值增长率K;然后比较模块将实时服务数量请求与服务实例最大处理能力进行比较;当实时服务数量请求大于服务实例最大处理能力时,资源扩展模块计算聚合值增长率K与单个服务实例平均每秒增量M的比值,根据该比值进行资源扩展。0070从以上描述可知,本发明云平台ELB组件的资源扩展装置,有效解决现有响应式扩展导致用户需要经历一段延迟时间、预测式扩展工作量大不能满足实际工作需求的问题,适合应用。0071作为一个实施例,所述单个服务实例受理的最大服务请求数量MAXRPT通过公式MAXRPTRPSTAUR确定,所述单个服务实例平均每。

36、秒增量M通过公式确定,其中RPS表示单个服务实例每秒受理的最大服务请求数量,T表示两次任务执行的时间间隔,AUR表示报警上限,T表示服务实例启动延时;0072通过云平台ELB组件中配置的参数计算单个服务实例受理的最大服务请求数量、单个服务实例平均每秒增量的参数值,预测未来峰值能力,提前启动服务实例,具有很高的应用价值。说明书CN104135525A119/9页120073作为一个实施例,所述聚合值增长率K通过公式确定,其中VIT表示历史数据中T时刻第I个节点的服务请求数量,N表示节点总数,T表示两次任务执行的时间间隔,保证后续处理正常进行,适合实际应用。0074作为一个实施例,还包括配置模块,。

37、用于配置云平台ELB组件的自动弹性扩展参数和服务集群参数;0075所述处理模块根据从所述配置模块读取的云平台ELB组件的自动弹性扩展参数和服务集群参数,计算单个服务实例受理的最大服务请求数量MAXRPT和单个服务实例平均每秒增量M,根据实际情况配置参数,充分满足实际需求,适合应用。0076作为一个实施例,所述配置模块还用于配置云平台ELB组件的日志信息,实现日志功能,跟踪详细的算法设计流程和计算方法,适合实际应用。0077以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。说明书CN104135525A121/4页13图1说明书附图CN104135525A132/4页14图2说明书附图CN104135525A143/4页15图3说明书附图CN104135525A154/4页16图4说明书附图CN104135525A16。

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 电学 > 电通信技术


copyright@ 2017-2020 zhuanlichaxun.net网站版权所有
经营许可证编号:粤ICP备2021068784号-1