《一种面向云计算的负载均衡系统及机制.pdf》由会员分享，可在线阅读，更多相关《一种面向云计算的负载均衡系统及机制.pdf（10页珍藏版）》请在专利查询网上搜索。
1、(10)申请公布号 CN 102833355 A (43)申请公布日 2012.12.19 C N 1 0 2 8 3 3 3 5 5 A *CN102833355A* (21)申请号 201210356783.8 (22)申请日 2012.09.22 H04L 29/08(2006.01) (71)申请人广东电子工业研究院有限公司 地址 523808 广东省东莞市松山湖科技产业 园区松科苑10号楼 (72)发明人莫展鹏 刘甜甜 岳强 季统凯 (74)专利代理机构北京科亿知识产权代理事务 所(普通合伙) 11350 代理人汤东凤 (54) 发明名称 一种面向云计算的负载均衡系统及机制 (57)。
2、 摘要 本发明涉及云计算技术领域，特指一种面向 云计算的负载均衡系统及机制。本发明使用双向 通信的方式建立虚拟机与负载均衡服务器之间的 负载探测与状态反馈机制，实现虚拟机状态的及 时反馈和处理，通过增减应用服务器的数量实现 应用的负载均衡。本发明针对一前端服务器多应 用服务器的虚拟集群，通过增减应用服务器的数 量实现应用的负载均衡效果；实现了云计算应用 的弹性化；可以应用于云计算的负载均衡中。 (51)Int.Cl. 权利要求书2页 说明书5页 附图2页 (19)中华人民共和国国家知识产权局 (12)发明专利申请 权利要求书 2 页 说明书 5 页 附图 2 页 1/2页 2 1.一种面向云计。
3、算的负载均衡系统，其特征在于：包括有IaaS服务平台和负载均衡服 务器； 所述的IaaS服务平台是虚拟机服务的提供者，对外开放接口让负载均衡服务器实现 对虚拟机的创建、删除、停止、启动等控制虚拟机本身的操作； 所述的负载均衡服务器，负责负载探测与状态反馈，通过调用IaaS服务平台的接口进 行应用服务器数量的增减，以到达负载均衡的效果。 2.根据权利要求1所述的负载均衡系统，其特征在于：所述的IaaS服务平台包括有前 端服务器虚拟机和应用服务器虚拟机； 前端服务器虚拟机，在负载均衡中作为统一的前端接收所有来自客户端的请求，并根 据预设的负载均衡策略分发到后端的应用服务器虚拟机； 应用服务器虚拟机。
4、，在负载均衡中作为负载的承担方，接收来自于前端服务器分发的 请求，并实际处理客户的请求。 3.根据权利要求1所述的负载均衡系统，其特征在于：所述的负载均衡服务器包括 IaaS适配器、虚拟机反馈接收模块和虚拟机负载轮询模块； IaaS适配器负责把对负载能力调整的调度命令转化为对IaaS的操作命令；对负载能 力调整的命令指的是要提高负载能力或降低负载能力；对IaaS的操作命令指的是要增加 应用服务器虚拟机或减少应用服务器虚拟机； 虚拟机反馈接收模块负责接收来自虚拟机的状态变化的命令，更新负载均衡服务器中 的应用服务器虚拟机状态列表，并根据反馈作出调整；虚拟机状态变化的命令包括虚拟机 从创建到启动完。
5、毕的状态变化过程以及虚拟机中的应用服务器从启动到初始化完毕加入 应用集群的状态变化过程； 虚拟机负载轮询模块负责定时询问所有应用服务器虚拟机的负载信息，负载的信息包 括虚拟机的CPU、内存、带宽的压力量化信息；并根据负载信息决定是否下发给IaaS服务平 台一个负载均衡能力调整的命令以及下发何种调整命令。 4.根据权利要求2所述的负载均衡系统，其特征在于：所述的负载均衡服务器包括 IaaS适配器、虚拟机反馈接收模块和虚拟机负载轮询模块； IaaS适配器负责把对负载能力调整的调度命令转化为对IaaS的操作命令；对负载能 力调整的命令指的是要提高负载能力或降低负载能力；对IaaS的操作命令指的是要增。
6、加 应用服务器虚拟机的数量或减少应用服务器虚拟机的数量； 虚拟机反馈接收模块负责接收来自虚拟机的状态变化的命令，更新负载均衡服务器中 的应用服务器虚拟机状态列表，并根据反馈作出调整；虚拟机状态变化的命令包括虚拟机 从创建到启动完毕的状态变化过程以及虚拟机中的应用服务器从启动到初始化完毕加入 应用集群的状态变化过程； 虚拟机负载轮询模块负责定时询问所有应用服务器虚拟机的负载信息，负载信息包括 虚拟机的CPU、内存、带宽的压力量化信息；并根据负载信息决定是否下发给IaaS服务平台 一个负载均衡能力调整的命令以及下发何种调整命令。 5.根据权利要求1至4任一项所述的负载均衡系统，其特征在于：所述的I。
7、aaS服务平 台对外开放接口由IaaS控制器实现，提供对虚拟机的创建、删除、停止、启动等操作。 6.根据权利要求1至4任一项所述的负载均衡系统，其特征在于：所述的IaaS服务平 权 利 要 求 书CN 102833355 A 2/2页 3 台的应用服务器虚拟机包括虚拟机状态反馈模块和虚拟机负载获取模块； 虚拟机状态反馈模块负责实时向负载均衡服务器一端的虚拟机反馈接收模块发送状 态变化的信息； 虚拟机负载获取模块负责获取虚拟机自身的负载信息，包括虚拟机的CPU、内存、带宽 的压力信息，并返回给负载均衡服务器一端的虚拟机负载轮询模块。 7.根据权利要求5所述的负载均衡系统，其特征在于：所述的Iaa。
8、S服务平台的应用服 务器虚拟机包括虚拟机状态反馈模块和虚拟机负载获取模块； 虚拟机状态反馈模块负责实时向负载均衡服务器一端的虚拟机反馈接收模块发送状 态变化的信息； 虚拟机负载获取模块负责获取虚拟机自身的负载信息，包括虚拟机的CPU、内存、带宽 的压力信息，并返回给负载均衡服务器一端的虚拟机负载轮询模块。 8.权利要求1至7任一项负载均衡系统所述的负载均衡机制，其特征在于：使用双向 通信的方式建立虚拟机与负载均衡服务器之间的负载探测与状态反馈机制，实现虚拟机状 态的及时反馈和处理，通过增减应用服务器的数量实现应用的负载均衡。 9.根据权利要求8所述的负载均衡机制，其特征在于：是通过增减应用服务。
9、器虚拟机 的数量来达到负载均衡的效果；应用服务器虚拟机作为双向通信的一方，一方面负责把虚 拟机的状态信息，包括启动完毕的状态信息以及应用服务器软件初始化完毕的状态信息， 发送到负责均衡服务器；另一方面接收来自负载均衡服务器的轮询，定期获取虚拟机本身 的负载信息，作为响应信息反馈到负载均衡服务器。 10.根据权利要求8或9所述的负载均衡机制，其特征在于：负载均衡的具体步骤如 下： 第1步，通过IaaS服务平台创建一个新的应用服务器虚拟机镜像，镜像具有一个虚拟 机状态反馈模块和一个虚拟机负载获取模块，并且设置此两种模块开机运行； 第2步，运行负载均衡服务器； 第3步，通过IaaS服务平台，使用此虚。
10、拟机镜像创建一个具有一前端服务器和多应用 服务器的虚拟集群应用； 第4步，虚拟机状态反馈机制的两个模块：虚拟机状态反馈模块以及虚拟机反馈接收 模块相互进行通信，建立起应用服务器虚拟机状态列表； 第5步，虚拟机负载探测机制的两个模块：虚拟机负载轮询模块以及虚拟机负载获取 模块相互通信，不断更新应用服务器虚拟机的负载信息；随着，虚拟集群应用的负载不断增 加，虚拟机负载探测机制探测到了整个集群的负载超过了最高负荷，需要增加虚拟机的数 量以提高整个集群的负载能力时，虚拟机负责轮询模块向IaaS服务发送创建新的应用服 务器虚拟机命令；新的应用服务器虚拟机创建完成后，通过虚拟机状态反馈模块发送启动 完毕的。
11、状态信息到虚拟机反馈接收模块，负载均衡服务器把此虚拟机列入就绪列表；新的 应用服务器虚拟机中的应用服务器初始化完毕后，通过虚拟机状态反馈模块发送初始化完 毕的状态信息到虚拟机反馈接收模块，负载均衡服务其把此虚拟机列入运行列表；反之，随 着虚拟集群应用的负载降低，负载均衡服务器可以根据同样的机制作出调整。 权 利 要 求 书CN 102833355 A 1/5页 4 一种面向云计算的负载均衡系统及机制 技术领域 0001 本发明涉及云计算技术领域，特指一种面向云计算的负载均衡系统及机制。 背景技术 0002 IaaS云计算平台：IaaS整合分布式计算、网络计算、虚拟化等技术，提供统一的计 算、网。
12、络、存储的资源，以虚拟机的形式提供给用户使用。对应用程序而言，以往部署在物理 机上，现在直接由云平台统一管理，以虚拟机的形式提供应用程序部署环境。IaaS一般会开 放服务访问接口，使得用户控制虚拟机的创建、删除、停止、启动。 0003 负载均衡（集群）：应用程序部署到单台服务器上，随着用户量的不断增加，负载压 力也不断增加。提高服务器的配置是解决问题的一种方法，但单台服务器的服务能力总会 有极限；此时增加服务器数量是一种节约成本，行之有效的解决方法。负载均衡技术就是这 种方法。通过前端的负载均衡器，将后端的应用服务器组成集群，通过增加/减少机器的数 量达到应用伸缩的效果，即使面对百万，及至千万。
13、级的用户都不成问题。 0004 目前云计算技术的一个好处可以有效的解决服务器利用率低的问题，对应用程序 不需要再以物理服务器为单位分配资源，在需要时可以直接创建虚拟机为应用程序提供部 署，在不需要时可以删除虚拟机，释放服务器资源。而负载均衡技术可以有效解决大用户量 应用程序苛刻的运行环境。 0005 无论部署环境是物理机还是虚拟机，负载均衡技术都有一定的部署难度，自动化 程度不高，更多需要系统管理员一步一步地按需求进行配置，部署。应用用户量大时，需要 手动增加服务器；用户量降低后，同样需要手动撤掉某台服务器，再将它分配另外的应用。 很难做到自动化、智能化。 发明内容 0006 本发明解决的技术。
14、问题之一是针对负载均衡应用集群部署慢，负载探测与状态反 馈不及时的问题，提出一种面向云计算的基于双向通信的负载均衡系统。 0007 本发明解决的技术问题之二是针对负载均衡应用集群部署慢，负载探测与状态反 馈不及时的问题，提出一种面向云计算的基于双向通信的负载均衡机制。 0008 本发明解决上述技术问题之一的技术方案是： 0009 包括有IaaS服务平台和负载均衡服务器； 0010 所述的IaaS服务平台是虚拟机服务的提供者，对外开放接口让负载均衡服务器 实现对虚拟机的创建、删除、停止、启动等控制虚拟机本身的操作； 0011 所述的负载均衡服务器，负责负载探测与状态反馈，通过调用IaaS服务平台。
15、的接 口进行应用服务器数量的增减，以到达负载均衡的效果。 0012 所述的IaaS服务平台包括有前端服务器虚拟机和应用服务器虚拟机； 0013 前端服务器虚拟机，在负载均衡中作为统一的前端接收所有来自客户端的请求， 并根据预设的负载均衡策略分发到后端的应用服务器虚拟机； 说 明 书CN 102833355 A 2/5页 5 0014 应用服务器虚拟机，在负载均衡中作为负载的承担方，接收来自于前端服务器分 发的请求，并实际处理客户的请求。 0015 所述的负载均衡服务器包括IaaS适配器、虚拟机反馈接收模块和虚拟机负载轮 询模块； 0016 IaaS适配器负责把对负载能力调整的调度命令转化为对I。
16、aaS的操作命令；对负 载能力调整的命令指的是要提高负载能力或降低负载能力；对IaaS的操作命令指的是要 增加应用服务器虚拟机的数量或减少应用服务器虚拟机的数量； 0017 虚拟机反馈接收模块负责接收来自虚拟机的状态变化的命令，更新负载均衡服务 器中的应用服务器虚拟机状态列表，并根据反馈作出调整；虚拟机状态变化的命令包括虚 拟机从创建到启动完毕的状态变化过程以及虚拟机中的应用服务器从启动到初始化完毕 加入应用集群的状态变化过程； 0018 虚拟机负载轮询模块负责定时询问所有应用服务器虚拟机的负载信息，负载信息 包括虚拟机的CPU、内存、带宽的压力量化信息；并根据负载信息决定是否下发给IaaS服。
17、务 平台一个负载均衡能力调整的命令以及下发何种调整命令。 0019 所述的IaaS服务平台对外开放接口由IaaS控制器实现，提供对虚拟机的创建、删 除、停止、启动等操作。 0020 所述的IaaS服务平台的应用服务器虚拟机包括虚拟机状态反馈模块和虚拟机负 载获取模块； 0021 虚拟机状态反馈模块负责实时向负载均衡服务器一端的虚拟机反馈接收模块发 送状态变化的信息； 0022 虚拟机负载获取模块负责获取虚拟机自身的负载信息，包括虚拟机的CPU、内存、 带宽的压力信息，并返回给负载均衡服务器一端的虚拟机负载轮询模块。 0023 本发明解决上述技术问题之二的技术方案是： 0024 使用双向通信的方。
18、式建立虚拟机与负载均衡服务器之间的负载探测与状态反馈 机制，实现虚拟机状态的及时反馈和处理，通过增减应用服务器的数量实现应用的负载均 衡。 0025 是通过增减应用服务器虚拟机的数量来达到负载均衡的效果；应用服务器虚拟机 作为双向通信的一方，一方面负责把虚拟机的状态信息，包括启动完毕的状态信息以及应 用服务器软件初始化完毕的状态信息，发送到负责均衡服务器；另一方面接收来自于负载 均衡服务器的轮询，定期获取虚拟机本身的负载信息，作为响应信息反馈到负载均衡服务 器。 0026 负载均衡的具体步骤如下： 0027 第1步，通过IaaS服务平台创建一个新的应用服务器虚拟机镜像，镜像具有一个 虚拟机状态。
19、反馈模块和一个虚拟机负载获取模块，并且设置此两种模块开机运行； 0028 第2步，运行负载均衡服务器； 0029 第3步，通过IaaS服务平台，使用此虚拟机镜像创建一个具有一前端服务器和多 应用服务器的虚拟集群应用； 0030 第4步，虚拟机状态反馈机制的两个模块：虚拟机状态反馈模块以及虚拟机反馈 接收模块相互进行通信，建立起应用服务器虚拟机状态列表； 说 明 书CN 102833355 A 3/5页 6 0031 第5步，虚拟机负载探测机制的两个模块：虚拟机负载轮询模块以及虚拟机负载 获取模块相互通信，不断更新应用服务器虚拟机的负载信息；随着，虚拟集群应用的负载不 断增加，虚拟机负载探测机制。
20、探测到了整个集群的负载超过了最高负荷，需要增加虚拟机 的数量以提高整个集群的负载能力时，虚拟机负责轮询模块向IaaS服务发送创建新的应 用服务器虚拟机命令；新的应用服务器虚拟机创建完成后，通过虚拟机状态反馈模块发送 启动完毕的状态信息到虚拟机反馈接收模块，负载均衡服务器把此虚拟机列入就绪列表； 新的应用服务器虚拟机中的应用服务器初始化完毕后，通过虚拟机状态反馈模块发送初始 化完毕的状态信息到虚拟机反馈接收模块，负载均衡服务其把此虚拟机列入运行列表；反 之，随着虚拟集群应用的负载降低，负载均衡服务器可以根据同样的机制作出调整。 0032 本发明使用双向通信的方式建立虚拟机与负载均衡服务器之间的负。
21、载探测与状 态反馈机制，实现了虚拟机状态的及时反馈和处理；实现了虚拟机的自动化、智能化部署。 附图说明 0033 下面结合附图对本发明进一步说明： 0034 图1是本发明基于双向通信的负载均衡机制示意图； 0035 图2是本发明用户实例的示意图。 具体实施方式 0036 如图1所示，本发明的负载均衡服务器，包括一个IaaS适配器，一个虚拟机反馈接 收模块和一个虚拟机负载轮询模块。 0037 IaaS适配器：负责把对负载能力调整的调度命令转化为对IaaS的操作命令。对 负载能力调整的命令指的是要提高负载能力或降低负载能力；对IaaS的操作命令指的是 要增加应用服务器虚拟机的数量或减少应用服务器虚。
22、拟机的数量。 0038 虚拟机反馈接收模块：负责接收来自虚拟机的状态变化的命令，更新负载均衡服 务器中的应用服务器虚拟机状态列表，并根据反馈作出调整。虚拟机状态变化的命令包括 虚拟机从创建到启动完毕的状态变化过程以及虚拟机中的应用服务器从启动到初始化完 毕加入应用集群的状态变化过程。 0039 虚拟机负载轮询模块：负责定时询问所有应用服务器虚拟机的负载信息。负载 的信息，包括虚拟机的CPU、内存、带宽的压力量化信息，并根据负载信息决定是否下发给 IaaS服务一个负责均衡能力调整的命令以及下发何种调整命令。 0040 前端服务器虚拟机：在负载均衡中作为统一的前端接收所有来自客户端的请求， 并根据。
23、预设的负载均衡策略分发到后端的应用服务器虚拟机，由后端的应用服务器虚拟 机来实际处理客户的请求，通过这种分担的方式达到负载均衡的效果。一般由Apache和 Ngnix服务器来承载此种服务。 0041 应用服务器虚拟机：在负载均衡在作为负载的承担方，接收来自于前端服务器分 发的请求。本发明核心思想是通过增减此种虚拟机的数量来达到负载均衡的效果。作为双 向通信的一方，一方面负责把虚拟机的状态信息，包括启动完毕的状态信息以及应用服务 器软件初始化完毕的状态信息，发送到负责均衡服务器，另一方面接收来自负载均衡服务 器的轮询，定期获取虚拟机本身的负载信息，作为响应信息反馈到负载均衡服务器。 说 明 书C。
24、N 102833355 A 4/5页 7 0042 具体包括以下步骤： 0043 第1步，通过IaaS服务创建一个新的应用服务器虚拟机镜像，镜像具有一个虚拟 机状态反馈模块和一个虚拟机负载获取模块，并且设置此两种模块开机运行。 0044 第2步，运行负载均衡服务器。 0045 第3步，通过IaaS服务，使用此虚拟机镜像创建一个具有一前端服务器多应用服 务器的虚拟集群应用。 0046 第4步，虚拟机状态反馈机制的两个模块：虚拟机状态反馈模块以及虚拟机反馈 接收模块相互进行通信，建立起应用服务器虚拟机状态列表。 0047 第5步，虚拟机负载探测机制的两个模块：虚拟机负载轮询模块以及虚拟机负载 获取。
25、模块相互通信，不断更新应用服务器虚拟机的负载信息。随着，虚拟集群应用的负载不 断增加，虚拟机负载探测机制探测到了整个集群的负载超过了最高负荷，需要增加虚拟机 的数量以提高整个集群的负载能力，虚拟机负责轮询模块向IaaS服务发送创建新的应用 服务器虚拟机命令；新的应用服务器虚拟机创建完成后，通过虚拟机状态反馈模块发送启 动完毕的状态信息到虚拟机反馈接收模块，负载均衡服务器把此虚拟机列入就绪列表；新 的应用服务器虚拟机中的应用服务器初始化完毕后，通过虚拟机状态反馈模块发送初始化 完毕的状态信息到虚拟机反馈接收模块，负载均衡服务其把此虚拟机列入运行列表。反之， 随着虚拟集群应用的负载降低，负载均衡服。
26、务器可以根据同样的机制作出调整。 0048 具体而言，本发明方法可有多种实现，本部分将介绍一种实现方式。 0049 参见图2，本发明一种面向云计算的负载均衡系统及机制的具体应用步骤如下: 0050 第1步，规定虚拟机状态反馈机制采用Http协议通信，因为负载均衡服务器需要 与多个应用服务器虚拟机之间通信，采用Http可以避免长连接，减少通信开销。虚拟机负 载探测机制采用SNMP协议通信，因为此协议可以通过广播的方式进行轮询，无需与每台虚 拟机都建立连接。通过G-Cloud服务创建一个新的应用服务器虚拟机镜像，镜像中的虚拟 机状态反馈使用HttpSever（Tomcat）实现，虚拟机负载获取模块。
27、使用SNMP Client实现， 并且设置此两种模块开机运行。 0051 第2步，运行负载均衡服务器，负载均衡服务器上的虚拟机反馈接收模块采用 HttpClient实现，虚拟机负载轮询模块采用SNMP Manager工具实现。 0052 第3步，通过G-Cloud服务，并通过typica软件调用RunInstances接口使用此虚 拟机镜像创建一个具有一前端服务器多应用服务器的虚拟集群应用。 0053 第4步，负载均衡器上的HttpClient向虚拟机发送请求，虚拟机上的HttpServer 作出响应以确认虚拟机已经启动并初始化完毕，建立起应用服务器虚拟机状态列表。 0054 第5步，负载均衡。
28、服务器上的SNMP Manager发送广播请求获得负载信息，虚拟机 上的SNMP Client应答后，负载均衡服务器开始收集所有虚拟机的负载信息。随着，虚拟集 群应用的负载不断增加，负载均衡服务器探测到了整个集群的负载超过了最高负荷，需要 增加虚拟机的数量以提高整个集群的负载能力，调用typica软件向G-Cloud服务发送创 建新的应用服务器虚拟机命令RunInstances；新的应用服务器虚拟机创建完成后，通过虚 拟机的HttpServer发送启动完毕的状态信息到负载均衡服务器，负载均衡服务器把此虚 拟机列入就绪列表；新的应用服务器虚拟机中的应用服务器初始化完毕后，通过虚拟机的 HttpServer发送初始化完毕的状态信息到负载均衡服务器，负载均衡服务其把此虚拟机列 说 明 书CN 102833355 A 5/5页 8 入运行列表。反之，随着虚拟集群应用的负载降低，负载均衡服务器可以根据同样的机制调 用EC2的TerminateInstances接口关闭虚拟机作出调整。 说 明 书CN 102833355 A 1/2页 9 图1 说 明 书 附 图CN 102833355 A 2/2页 10 图2 说 明 书 附 图CN 102833355 A 10 。