云服务器内容精选

  • UDP健康检查 对于四层(UDP)后端协议,默认配置UDP健康检查,通过发送UDP探测报文获取后端服务器的状态信息,如图2所示。 图2 UDP健康检查 UDP健康检查机制如下: 四层ELB节点根据健康检查配置,向后端服务器发送ICMP Echo Request报文。 如果在超时时间内没有收到ICMP Echo Reply报文,则判定健康检查失败。 如果在超时时间内收到了ICMP Echo Reply报文,则向后端服务器发送UDP探测报文。 如果在超时时间内没有收到后端服务器返回的ICMP Port Unreachable报文,则判定健康检查成功。否则,判定健康检查失败。
  • HTTPS健康检查 对于四层(TCP)和七层(HTTP/HTTPS)后端协议,您也可以配置HTTPS健康检查。HTTPS健康检查首先通过TLS握手建立SSL连接,再通过发送加密的HTTP GET请求来获取后端服务器的状态信息。检查原理如图4所示。 图4 HTTPS健康检查 HTTPS健康检查机制如下: ELB节点向后端服务器发送Client Hello请求,与后端服务器建立SSL连接。 ELB节点收到后端服务器返回Server Hello报文后,根据健康检查配置,向后端服务器(IP+端口+检查路径)发出加密的HTTP GET请求(可以选择设置 域名 )。 后端服务器收到请求后,根据服务的情况返回相应的HTTP状态码。 如果七层ELB节点在响应超时时间内收到了后端服务器的响应,将HTTP状态码与预置的状态码进行对比,如果匹配则认为健康检查成功,后端服务器运行正常。 如果七层ELB节点在响应超时时间内没有收到后端服务器的响应,则判定健康检查失败。
  • TLS健康检查 对于HTTP、HTTPS和TLS后端协议,您可以配置TLS健康检查,通过TLS 握手,发送Client Hello,解析服务端发送的Server Hello来获取后端服务器的状态。 图5 TLS健康检查 TLS健康检查的机制如下: ELB节点根据健康检查配置,向后端服务器(IP+健康检查端口)发送TCP SYN报文。 如果在超时时间内没有收到SYN+ACK报文,则判定健康检查失败。 如果在超时时间内收到了SYN+ACK报文,则向后端服务器发送会发送Client Hello(SSL协商),协商的版本号包括了TLSv1.0、TLSv1.1、TLSv1.2、TLSv1.3。 如果在超时时间内收到后端服务器返回的Server Hello报文,则判定健康检查成功。否则,判定健康检查失败。
  • 健康检查协议 您可以在创建后端服务器组和创建监听器时为后端服务器组配置健康检查,通常,使用默认的健康检查配置即可,也根据业务需要选择不同的健康检查协议。 您也可以在后端服务器组创建后修改健康检查,详情可见修改健康检查配置。 后端服务器组的后端协议与支持的健康检查协议存在匹配关系,详情请参见表1。 表1 后端服务器组支持的健康检查协议(独享型) 后端服务器组的后端协议 健康检查协议 TCP TCP、HTTP、HTTPS UDP UDP QUIC UDP TLS TCP、HTTP、HTTPS、TLS、GRPC HTTP TCP、HTTP、HTTPS、TLS、GRPC HTTPS TCP、HTTP、HTTPS、TLS、GRPC GRPC TCP、HTTP、HTTPS、TLS、GRPC TLS协议与GRPC协议陆续上线中,已发布区域请参见弹性负载均衡支持TLS协议和弹性负载均衡支持GRPC协议。
  • TCP健康检查 对于四层(TCP)和七层(HTTP/HTTPS)后端协议,您可以配置TCP健康检查,通过发起TCP三次握手来获取后端服务器的状态信息,如图1所示。 图1 TCP健康检查 TCP健康检查的机制如下: ELB节点根据健康检查配置,向后端服务器(IP+健康检查端口)发送TCP SYN报文。 后端服务器收到请求报文后,如果相应的端口已经被正常监听,则会返回SYN+ACK报文。 如果在超时时间内没有收到后端服务器的SYN+ACK报文,则判定健康检查失败。随后发送RST报文给后端服务器中断TCP连接。 如果在超时时间内收到了SYN+ACK报文,则判定健康检查成功,并进一步发送ACK报文给后端服务器。随后发送RST报文给后端服务器中断TCP连接。 正常的TCP三次握手后,会进行数据传输,但是在健康检查时会发送RST中断建立的TCP连接。该实现方式可能会导致后端服务器中的应用认为TCP连接异常退出,并打印错误信息,如“Connection reset by peer”。解决方案如下: 采用HTTP健康检查。 后端服务器忽略健康检查的连接错误。
  • HTTP健康检查 对于四层(TCP)和七层(HTTP/HTTPS)后端协议,您可以配置HTTP健康检查,通过HTTP GET请求来获取状态信息。检查原理如图3所示。 图3 HTTP健康检查 HTTP健康检查机制如下: ELB节点根据健康检查配置,向后端服务器(IP+端口+检查路径)发出HTTP GET请求(可以选择设置域名)。 后端服务器收到请求后,根据服务的情况返回相应的HTTP状态码。 如果七层ELB节点在响应超时时间内收到了后端服务器的响应,将HTTP状态码与预置的状态码进行对比,如果匹配则认为健康检查成功,后端服务器运行正常。 如果七层ELB节点在响应超时时间内没有收到后端服务器的响应,则判定健康检查失败。
  • 健康检查时间窗 健康检查机制的引入,有效提高了业务服务的可用性。但是,为了避免频繁的健康检查失败引起的切换对系统可用性的冲击,健康检查只有连续多次检查成功或失败后,才会进行状态切换。 以共享型负载均衡的健康检查为例,健康检查时间窗由表2中的三个因素决定: 表2 健康检查时间窗的影响因素 影响因素 说明 检查间隔 每隔多久进行一次健康检查。 超时时间 等待服务器返回健康检查的时间。 健康检查阈值 判定健康检查结果正常或异常时,所需的健康检查连续成功或失败的次数。 健康检查时间窗的计算方法如下: 健康检查成功时间窗 = 超时时间×健康检查正常阈值 + 检查间隔×(健康检查正常阈值-1) 健康检查失败时间窗 = 超时时间×健康检查异常阈值 + 检查间隔×(健康检查异常阈值-1) 如图7所示: 检查间隔:4s 超时时间:2s 健康检查异常阈值:3次 健康检查检测到后端服务器从正常到失败状态,健康检查失败时间窗 = 超时时间×健康检查异常阈值+检查间隔×(健康检查异常阈值-1) = 2 x 3+4 x (3-1) = 14s。 图7 健康检查失败时间窗
  • GRPC健康检查 图6 GRPC健康检查 GRPC健康检查机制如下: ELB节点根据健康检查配置,向后端服务器(IP+端口+检查路径)发出POST或GET请求(可以选择设置域名)。 后端服务器收到请求后,根据服务的情况返回相应的状态码。 ELB通过读取HTTP/2头中的grpc-status的值作为返回的GRPC状态码。 如果七层ELB节点在响应超时时间内收到了后端服务器的响应,将返回的GRPC状态码与自定义的健康检查返回码进行对比,如果匹配则认为健康检查成功,后端服务器运行正常。 如果七层ELB节点在响应超时时间内没有收到后端服务器的响应,则判定健康检查失败。
  • 后端服务器组的基本信息 选定目标后端服务器后,可对以下基本信息进行修改,详情见表1。 表1 支持修改的后端服务器组信息 参数 修改场景说明 名称 用户可自定义后端服务器组的名称。 修改名称步骤详情见修改流量分配策略配置。 分配策略类型 用户可根据使用需求修改后端服务器组的流量分配策略。 后端服务器组根据配置的流量分配策略转发流量到不同的后端服务器。 流量分配策略详情参见流量分配策略介绍。 修改流量分配策略步骤详情见修改流量分配策略配置。 会话保持 用户可根据使用需求开启或关闭会话保持。 当用户开启了会话保持功能后,会话保持可以使来自同一客户端的请求被转发到同一台后端服务器上,客户端的请求将无需重复登录后端服务器。 开启了会话保持功能,也可能会造成后端服务器的访问量不均衡,此时建议您暂时关闭会话保持功能,再观察是否依然存在访问不均衡的情况。 会话保持功能详情参见会话保持介绍。 修改会话保持步骤详情见修改会话保持配置。 慢启动 用户可根据使用需求开启或关闭慢启动。 慢启动能够实现业务的平滑启动,完美避免业务抖动问题。建议用户在添加后端服务器前开启慢启动。 慢启动功能详情参见慢启动介绍(独享型)。 修改慢启动步骤详情见修改慢启动配置。 描述 用户可自定义对目标后端服务器组的描述。 修改描述步骤详情见修改流量分配策略配置。
  • 后端服务器组关键功能 为保证用户业务的稳定和多样化的流量转发需求,后端服务器组提供了如表3所示的关键功能可供用户配置。 表3 后端服务器组关键功能 关键功能 功能说明 功能详情 转发模式 根据后端服务器组配置的转发模式,负载均衡将切换后端服务器处理请求流量。 支持“负载均衡”和“主备转发”两种类型。 负载均衡:负载均衡器配置的流量分配策略将请求的流量分发至不同的后端服务器。 主备转发:当主机健康检查结果正常时,负载均衡将流量转发至主机;当主机健康检查结果异常时,流量将被切换至备机。 说明: 仅独享型负载均衡的后端服务器组支持选择转发模式。 后端服务器组支持选择转发模式的发布区域请参考功能总览中的主备转发模式。 转发模式介绍(独享型)。 健康检查 负载均衡器通过健康检查来判断后端服务器是否可用。 如果某个后端服务器健康检查异常,负载均衡器将不会把流量转发给异常后端服务器,从而提升了业务的可靠性。 健康检查介绍。 流量分配策略 负载均衡器按照后端服务器组配置的流量分配策略对请求的流量进行分发。 流量分配策略介绍。 会话保持 开启会话保持后,负载均衡器将属于同一个会话的请求都转发到固定的后端服务器进行处理,避免了客户端重复登录后端服务器。 会话保持介绍。 慢启动 慢启动指负载均衡器向组内新增的后端服务器线性增加请求分配权重的启动模式。 当配置慢启动时间结束,负载均衡向后端服务器发送完整比例的流量请求,实现业务的平滑启动。 说明: 仅独享型负载均衡支持HTTP和HTTPS类型的后端服务器组开启慢启动功能。 慢启动介绍(独享型)。 全端口转发 开启全端口转发后,后端服务器组添加后端服务器时无需指定后端端口,监听器将按照前端请求端口转发流量至后端服务器对应的端口。 说明: 仅独享型负载均衡支持TCP、UDP和QUIC类型的后端服务器组开启全端口转发功能。 -
  • 后端服务器组创建指引 后端服务器组独立创建后仅可关联至前端协议与后端协议匹配的监听器使用,监听器与后端服务器组的前端/后端协议匹配关系详见表4。 您有多种方式创建后端服务器组,详见表5。 表4 前端/后端协议匹配关系 监听器的前端协议 后端服务器组的后端协议 TCP TCP UDP UDP QUIC TLS TLS TCP HTTP HTTP HTTPS HTTP HTTPS GRPC 表5 后端服务器组创建指引 弹性负载均衡类型 约束与限制 后端服务器组创建方法 独享型负载均衡 支持将一个后端服务器组关联至多个负载均衡实例和监听器使用。 弹性负载均衡实例需归属同一企业项目。 创建后端服务器组。
  • 后端服务器组简介 后端服务器组是一个或多个后端服务器的逻辑集合,用于将客户端的流量转发到一个或多个后端服务器,满足用户同时处理海量并发业务的需求。后端服务器可以是云服务器实例、辅助弹性网卡或IP地址。 后端服务器组参与流量转发过程如表1: 表1 后端服务器组参与流量转发过程 步骤一 来自客户端的请求先传入负载均衡器,再经由负载均衡器上的监听器转发到后端服务器组。 步骤二 后端服务器组中健康检查正常的后端服务器处理转发的业务请求。 步骤三 实现同时对用户的海量并发业务进行处理,从而提升用户应用系统的可用性。 独享型负载均衡器使用的后端服务器组分为混合类型和IP类型,混合类型支持添加云服务器实例、辅助弹性网卡和IP地址作为后端服务器,IP类型仅支持添加IP地址作为后端服务器。 图1展示了不同类型后端服务器组的使用架构,详细的对比说明见表2。 图1 后端服务器组使用架构图 表2 后端服务器组分类及说明 后端服务器组类型 可添加后端服务器分类 举例说明 操作指导 混合类型 支持直接添加与负载均衡器同VPC的云服务器实例(E CS 和BMS)和辅助弹性网卡作为后端服务器。 开启跨VPC后端功能后,也支持添加云上其他VPC和云下数据中心的IP地址作为后端服务器。 如图1所示: 后端服务器组A可添加与负载均衡器在同一 虚拟私有云VPC 1中的弹性云服务器(ECS)和辅助弹性网卡(Supplementary Network Interface)作为后端云服务器。 后端服务器组B中可跨VPC添加VPC2中的IP地址作为后端服务器。 添加后端云服务器。 添加辅助弹性网卡。 添加跨VPC后端。 IP类型 开启跨VPC后端功能后,支持添加云上或云下数据中心的IP地址作为后端服务器。 如图1,后端服务器组C可添加IP地址作为后端服务器。 添加跨VPC后端。
  • 后端服务器组创建指引 后端服务器组独立创建后仅可关联至前端协议与后端协议匹配的监听器使用,监听器与后端服务器组的前端/后端协议匹配关系详见表4。 您有多种方式创建后端服务器组,详见表5。 表4 前端/后端协议匹配关系 监听器的前端协议 后端服务器组的后端协议 TCP TCP UDP UDP HTTP HTTP HTTPS HTTP 表5 后端服务器组创建指引 弹性负载均衡类型 约束与限制 后端服务器组创建方法 共享型负载均衡 一个后端服务器组仅能关联在一个共享型负载均衡实例下,且仅能被一个监听器使用。 创建后端服务器组。
  • 后端服务器组简介 后端服务器组是一个或多个后端服务器的逻辑集合,用于将客户端的流量转发到一个或多个后端服务器,满足用户同时处理海量并发业务的需求。共享型负载均衡器仅支持添加云服务器作为后端服务器。 后端服务器组参与流量转发过程如下: 表1 后端服务器组参与流量转发过程 步骤一 来自客户端的请求先传入负载均衡器,再经由负载均衡器上的监听器转发到后端服务器组。 步骤二 后端服务器组中健康检查正常的后端服务器处理转发的业务请求。 步骤三 实现同时对用户的海量并发业务进行处理,从而提升用户应用系统的可用性。 共享型负载均衡器使用的后端服务器组不区分类型。 表2 服务器组添加后端服务器说明(共享型) 添加后端服务器分类 添加说明 操作指导 云服务器 支持添加与负载均衡器同VPC的云服务器实例(弹性云服务器和裸金属服务器)作为后端服务器。 添加后端云服务器。
  • 后端服务器组关键功能 为保证用户业务的稳定和多样化的流量转发需求,后端服务器组提供了如表3所示的关键功能可供用户配置。 表3 后端服务器组关键功能 关键功能 功能说明 功能详情 健康检查 负载均衡器通过健康检查来判断后端服务器是否可用。 如果某个后端服务器健康检查异常,负载均衡器将不会把流量转发给异常后端服务器,从而提升了业务的可靠性。 健康检查介绍。 流量分配策略 负载均衡器按照后端服务器组配置的流量分配策略对请求的流量进行分发。 流量分配策略介绍。 会话保持 开启会话保持后,负载均衡器将属于同一个会话的请求都转发到固定的后端服务器进行处理,避免了客户端重复登录后端服务器。 会话保持介绍。