云服务器内容精选

  • 如何检查后端服务器网络状态? 确认虚拟机主网卡已经正确分配到IP地址。 登录虚拟机内部。 执行ifconfig命令或ip address查看网卡的IP信息。 Windows虚拟机可以在命令行中执行ipconfig查看。 从虚拟机内部ping所在子网的网关,确认基本通信功能是否正常。 通常网关地址结尾为.1,可以在VPC详情页面中确认,切换“子网”页签,查看“网关”列,显示网关地址。 执行ping命令,观察能否ping通即可。若无法ping通网关则需首先排查二三层网络问题。 父主题: 后端服务器
  • 新增后端服务器集群 参考创建监听,进入创建后端服务器集群页面。 在创建后端服务器集群页面,单击“新增集群”,配置相关参数,参数说明如表1所示。 表1 新增集群参数说明 参数 说明 集群名称 后端服务器集群名称。 字符长度0~150,可以由字母、数字、下划线、短横线、点组成,不能包含特殊字符,不能包含-in-字符,后端服务器为tomcat时,建议不要包含下划线,转发可能返回400,例:Cluster_home-001。 后端协议 后端服务器协议,支持HTTP、HTTPS。 负载均衡策略 加权轮询算法:可配权重,根据权重进行轮询,默认权重相同。 自定义参数哈希:可以配置nginx变量进行哈希,nginx变量,例如:$http_x_forwarded_for。 IP哈希:根据发送给SLB请求的IP进行哈希。 说明: 如前面有ELB或者F5,此IP通常为ELB的IP或者F5的IP,因此请慎用。 最小连接数:根据服务器的连接数,向连接数最少的服务器优先转发。 预热周期 配置新节点启动后在多长时间范围内进行预热,范围0-30,0表示不开启预热。 预热因子 配置预热增长速率,值越大预热增长速率越快,范围1-100,默认为10,表示匀速增长。 预热延迟 新节点启动后延迟多长时间才进行预热,范围0-30,延迟时间中,节点被选中的概率为0。 自定义参数配置 配置自定义参数。 自定义参数哈希 负载均衡策略选择为“自定义参数哈希”时,配置此参数。 字符长度0~50,以$符开头,可以由字母、数字、点、下划线、短横线组成,不能包含其他特殊字符,例:$http_x_forwarded_for。 单击“确定”。
  • 新增后端服务器集群 参考创建监听,进入创建后端服务器集群页面。 在创建后端服务器集群页面,单击“新增集群”,配置相关参数,参数说明如表1所示。 表1 新增集群参数说明 参数 说明 集群名称 后端服务器集群名称。 字符长度0~150,可以由字母、数字、下划线、短横线、点组成,不能包含特殊字符,不能包含-in-字符,后端服务器为tomcat时,建议不要包含下划线,转发可能返回400,例:Cluster_home-001。 后端协议 后端服务器协议,支持HTTP、HTTPS。 负载均衡策略 加权轮询算法:可配权重,根据权重进行轮询,默认权重相同。 自定义参数哈希:可以配置nginx变量进行哈希,nginx变量,例如:$http_x_forwarded_for。 IP哈希:根据发送给SLB请求的IP进行哈希。 说明: 如前面有ELB或者F5,此IP通常为ELB的IP或者F5的IP,因此请慎用。 最小连接数:根据服务器的连接数,向连接数最少的服务器优先转发。 预热周期 配置新节点启动后在多长时间范围内进行预热,范围0-30,0表示不开启预热。 预热因子 配置预热增长速率,值越大预热增长速率越快,范围1-100,默认为10,表示匀速增长。 预热延迟 新节点启动后延迟多长时间才进行预热,范围0-30,延迟时间中,节点被选中的概率为0。 自定义参数配置 配置自定义参数。 自定义参数哈希 负载均衡策略选择为“自定义参数哈希”时,配置此参数。 字符长度0~50,以$符开头,可以由字母、数字、点、下划线、短横线组成,不能包含其他特殊字符,例:$http_x_forwarded_for。 单击“确定”。
  • UDP健康检查 对于四层(UDP)后端协议,默认配置UDP健康检查,通过发送UDP探测报文获取后端服务器的状态信息,如图2所示。 图2 UDP健康检查 UDP健康检查机制如下: 四层ELB节点根据健康检查配置,向后端服务器发送ICMP Echo Request报文。 如果在超时时间内没有收到ICMP Echo Reply报文,则判定健康检查失败。 如果在超时时间内收到了ICMP Echo Reply报文,则向后端服务器发送UDP探测报文。 如果在超时时间内没有收到后端服务器返回的ICMP Port Unreachable报文,则判定健康检查成功。否则,判定健康检查失败。
  • HTTPS健康检查 对于四层(TCP)和七层(HTTP/HTTPS)后端协议,您也可以配置HTTPS健康检查。HTTPS健康检查首先通过TLS握手建立SSL连接,再通过发送加密的HTTP GET请求来获取后端服务器的状态信息。检查原理如图4所示。 图4 HTTPS健康检查 HTTPS健康检查机制如下: ELB节点向后端服务器发送Client Hello请求,与后端服务器建立SSL连接。 ELB节点收到后端服务器返回Server Hello报文后,根据健康检查配置,向后端服务器(IP+端口+检查路径)发出加密的HTTP GET请求(可以选择设置 域名 )。 后端服务器收到请求后,根据服务的情况返回相应的HTTP状态码。 如果七层ELB节点在响应超时时间内收到了后端服务器的响应,将HTTP状态码与预置的状态码进行对比,如果匹配则认为健康检查成功,后端服务器运行正常。 如果七层ELB节点在响应超时时间内没有收到后端服务器的响应,则判定健康检查失败。
  • TLS健康检查 对于HTTP、HTTPS和TLS后端协议,您可以配置TLS健康检查,通过TLS 握手,发送Client Hello,解析服务端发送的Server Hello来获取后端服务器的状态。 图5 TLS健康检查 TLS健康检查的机制如下: ELB节点根据健康检查配置,向后端服务器(IP+健康检查端口)发送TCP SYN报文。 如果在超时时间内没有收到SYN+ACK报文,则判定健康检查失败。 如果在超时时间内收到了SYN+ACK报文,则向后端服务器发送会发送Client Hello(SSL协商),协商的版本号包括了TLSv1.0、TLSv1.1、TLSv1.2、TLSv1.3。 如果在超时时间内收到后端服务器返回的Server Hello报文,则判定健康检查成功。否则,判定健康检查失败。
  • GRPC健康检查 图6 GRPC健康检查 GRPC健康检查机制如下: ELB节点根据健康检查配置,向后端服务器(IP+端口+检查路径)发出POST或GET请求(可以选择设置域名)。 后端服务器收到请求后,根据服务的情况返回相应的状态码。 ELB通过读取HTTP/2头中的grpc-status的值作为返回的GRPC状态码。 如果七层ELB节点在响应超时时间内收到了后端服务器的响应,将返回的GRPC状态码与自定义的健康检查返回码进行对比,如果匹配则认为健康检查成功,后端服务器运行正常。 如果七层ELB节点在响应超时时间内没有收到后端服务器的响应,则判定健康检查失败。
  • 健康检查协议 您可以在创建后端服务器组和创建监听器时为后端服务器组配置健康检查,通常,使用默认的健康检查配置即可,也根据业务需要选择不同的健康检查协议。 您也可以在后端服务器组创建后修改健康检查,详情可见修改健康检查配置。 后端服务器组的后端协议与支持的健康检查协议存在匹配关系,详情请参见表1。 表1 后端服务器组支持的健康检查协议(独享型) 后端服务器组的后端协议 健康检查协议 TCP TCP、HTTP、HTTPS UDP UDP QUIC UDP TLS TCP、HTTP、HTTPS、TLS、GRPC HTTP TCP、HTTP、HTTPS、TLS、GRPC HTTPS TCP、HTTP、HTTPS、TLS、GRPC GRPC TCP、HTTP、HTTPS、TLS、GRPC TLS协议与GRPC协议陆续上线中,已发布区域请参见弹性负载均衡支持TLS协议和弹性负载均衡支持GRPC协议。
  • TCP健康检查 对于四层(TCP)和七层(HTTP/HTTPS)后端协议,您可以配置TCP健康检查,通过发起TCP三次握手来获取后端服务器的状态信息,如图1所示。 图1 TCP健康检查 TCP健康检查的机制如下: ELB节点根据健康检查配置,向后端服务器(IP+健康检查端口)发送TCP SYN报文。 后端服务器收到请求报文后,如果相应的端口已经被正常监听,则会返回SYN+ACK报文。 如果在超时时间内没有收到后端服务器的SYN+ACK报文,则判定健康检查失败。随后发送RST报文给后端服务器中断TCP连接。 如果在超时时间内收到了SYN+ACK报文,则判定健康检查成功,并进一步发送ACK报文给后端服务器。随后发送RST报文给后端服务器中断TCP连接。 正常的TCP三次握手后,会进行数据传输,但是在健康检查时会发送RST中断建立的TCP连接。该实现方式可能会导致后端服务器中的应用认为TCP连接异常退出,并打印错误信息,如“Connection reset by peer”。解决方案如下: 采用HTTP健康检查。 后端服务器忽略健康检查的连接错误。
  • HTTP健康检查 对于四层(TCP)和七层(HTTP/HTTPS)后端协议,您可以配置HTTP健康检查,通过HTTP GET请求来获取状态信息。检查原理如图3所示。 图3 HTTP健康检查 HTTP健康检查机制如下: ELB节点根据健康检查配置,向后端服务器(IP+端口+检查路径)发出HTTP GET请求(可以选择设置域名)。 后端服务器收到请求后,根据服务的情况返回相应的HTTP状态码。 如果七层ELB节点在响应超时时间内收到了后端服务器的响应,将HTTP状态码与预置的状态码进行对比,如果匹配则认为健康检查成功,后端服务器运行正常。 如果七层ELB节点在响应超时时间内没有收到后端服务器的响应,则判定健康检查失败。
  • 健康检查时间窗 健康检查机制的引入,有效提高了业务服务的可用性。但是,为了避免频繁的健康检查失败引起的切换对系统可用性的冲击,健康检查只有连续多次检查成功或失败后,才会进行状态切换。 以共享型负载均衡的健康检查为例,健康检查时间窗由表2中的三个因素决定: 表2 健康检查时间窗的影响因素 影响因素 说明 检查间隔 每隔多久进行一次健康检查。 超时时间 等待服务器返回健康检查的时间。 健康检查阈值 判定健康检查结果正常或异常时,所需的健康检查连续成功或失败的次数。 健康检查时间窗的计算方法如下: 健康检查成功时间窗 = 超时时间×健康检查正常阈值 + 检查间隔×(健康检查正常阈值-1) 健康检查失败时间窗 = 超时时间×健康检查异常阈值 + 检查间隔×(健康检查异常阈值-1) 如图7所示: 检查间隔:4s 超时时间:2s 健康检查异常阈值:3次 健康检查检测到后端服务器从正常到失败状态,健康检查失败时间窗 = 超时时间×健康检查异常阈值+检查间隔×(健康检查异常阈值-1) = 2 x 3+4 x (3-1) = 14s。 图7 健康检查失败时间窗
  • 后端服务器组的基本信息 选定目标后端服务器后,可对以下基本信息进行修改,详情见表1。 表1 支持修改的后端服务器组信息 参数 修改场景说明 名称 用户可自定义后端服务器组的名称。 修改名称步骤详情见修改流量分配策略配置。 分配策略类型 用户可根据使用需求修改后端服务器组的流量分配策略。 后端服务器组根据配置的流量分配策略转发流量到不同的后端服务器。 流量分配策略详情参见流量分配策略介绍。 修改流量分配策略步骤详情见修改流量分配策略配置。 会话保持 用户可根据使用需求开启或关闭会话保持。 当用户开启了会话保持功能后,会话保持可以使来自同一客户端的请求被转发到同一台后端服务器上,客户端的请求将无需重复登录后端服务器。 开启了会话保持功能,也可能会造成后端服务器的访问量不均衡,此时建议您暂时关闭会话保持功能,再观察是否依然存在访问不均衡的情况。 会话保持功能详情参见会话保持介绍。 修改会话保持步骤详情见修改会话保持配置。 慢启动 用户可根据使用需求开启或关闭慢启动。 慢启动能够实现业务的平滑启动,完美避免业务抖动问题。建议用户在添加后端服务器前开启慢启动。 慢启动功能详情参见慢启动介绍(独享型)。 修改慢启动步骤详情见修改慢启动配置。 描述 用户可自定义对目标后端服务器组的描述。 修改描述步骤详情见修改流量分配策略配置。
  • 后端服务器组关键功能 为保证用户业务的稳定和多样化的流量转发需求,后端服务器组提供了如表3所示的关键功能可供用户配置。 表3 后端服务器组关键功能 关键功能 功能说明 功能详情 转发模式 根据后端服务器组配置的转发模式,负载均衡将切换后端服务器处理请求流量。 支持“负载均衡”和“主备转发”两种类型。 负载均衡:负载均衡器配置的流量分配策略将请求的流量分发至不同的后端服务器。 主备转发:当主机健康检查结果正常时,负载均衡将流量转发至主机;当主机健康检查结果异常时,流量将被切换至备机。 说明: 仅独享型负载均衡的后端服务器组支持选择转发模式。 后端服务器组支持选择转发模式的发布区域请参考功能总览中的主备转发模式。 转发模式介绍(独享型)。 健康检查 负载均衡器通过健康检查来判断后端服务器是否可用。 如果某个后端服务器健康检查异常,负载均衡器将不会把流量转发给异常后端服务器,从而提升了业务的可靠性。 健康检查介绍。 流量分配策略 负载均衡器按照后端服务器组配置的流量分配策略对请求的流量进行分发。 流量分配策略介绍。 会话保持 开启会话保持后,负载均衡器将属于同一个会话的请求都转发到固定的后端服务器进行处理,避免了客户端重复登录后端服务器。 会话保持介绍。 慢启动 慢启动指负载均衡器向组内新增的后端服务器线性增加请求分配权重的启动模式。 当配置慢启动时间结束,负载均衡向后端服务器发送完整比例的流量请求,实现业务的平滑启动。 说明: 仅独享型负载均衡支持HTTP和HTTPS类型的后端服务器组开启慢启动功能。 慢启动介绍(独享型)。 全端口转发 开启全端口转发后,后端服务器组添加后端服务器时无需指定后端端口,监听器将按照前端请求端口转发流量至后端服务器对应的端口。 说明: 仅独享型负载均衡支持TCP、UDP和QUIC类型的后端服务器组开启全端口转发功能。 -
  • 后端服务器组创建指引 后端服务器组独立创建后仅可关联至前端协议与后端协议匹配的监听器使用,监听器与后端服务器组的前端/后端协议匹配关系详见表4。 您有多种方式创建后端服务器组,详见表5。 表4 前端/后端协议匹配关系 监听器的前端协议 后端服务器组的后端协议 TCP TCP UDP UDP QUIC TLS TLS TCP HTTP HTTP HTTPS HTTP HTTPS GRPC 表5 后端服务器组创建指引 弹性负载均衡类型 约束与限制 后端服务器组创建方法 独享型负载均衡 支持将一个后端服务器组关联至多个负载均衡实例和监听器使用。 弹性负载均衡实例需归属同一企业项目。 创建后端服务器组。
  • 后端服务器组简介 后端服务器组是一个或多个后端服务器的逻辑集合,用于将客户端的流量转发到一个或多个后端服务器,满足用户同时处理海量并发业务的需求。后端服务器可以是云服务器实例、辅助弹性网卡或IP地址。 后端服务器组参与流量转发过程如表1: 表1 后端服务器组参与流量转发过程 步骤一 来自客户端的请求先传入负载均衡器,再经由负载均衡器上的监听器转发到后端服务器组。 步骤二 后端服务器组中健康检查正常的后端服务器处理转发的业务请求。 步骤三 实现同时对用户的海量并发业务进行处理,从而提升用户应用系统的可用性。 独享型负载均衡器使用的后端服务器组分为混合类型和IP类型,混合类型支持添加云服务器实例、辅助弹性网卡和IP地址作为后端服务器,IP类型仅支持添加IP地址作为后端服务器。 图1展示了不同类型后端服务器组的使用架构,详细的对比说明见表2。 图1 后端服务器组使用架构图 表2 后端服务器组分类及说明 后端服务器组类型 可添加后端服务器分类 举例说明 操作指导 混合类型 支持直接添加与负载均衡器同VPC的云服务器实例(E CS 和BMS)和辅助弹性网卡作为后端服务器。 开启跨VPC后端功能后,也支持添加云上其他VPC和云下数据中心的IP地址作为后端服务器。 如图1所示: 后端服务器组A可添加与负载均衡器在同一 虚拟私有云VPC 1中的弹性云服务器(ECS)和辅助弹性网卡(Supplementary Network Interface)作为后端云服务器。 后端服务器组B中可跨VPC添加VPC2中的IP地址作为后端服务器。 添加后端云服务器。 添加辅助弹性网卡。 添加跨VPC后端。 IP类型 开启跨VPC后端功能后,支持添加云上或云下数据中心的IP地址作为后端服务器。 如图1,后端服务器组C可添加IP地址作为后端服务器。 添加跨VPC后端。