检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
负载均衡 负载均衡作用在客户端,是高并发、高可用系统必不可少的关键组件,目标是尽力将网络流量平均分发到多个服务器上,以提高系统整体的响应速度和可用性。 Java Chassis的负载均衡作用于微服务消费者,需要微服务应用集成负载均衡模块,启用loadbalance处理链。 配置示例如下:
缓存会通过事件通知、定时查询等机制更新;通过本地缓存的地址信息,实现微服务之间的点到点调用,当微服务存在多个实例的情况,可以配置不同的负载均衡策略,包括轮询、权重、灰度发布、同可用区优先等。 运维层面,可以通过CSE查看实例列表、微服务调用关系、服务契约等,帮助客户了解应用系统组成、运行状态等信息。
Chassis基于Reactive,实现了高效的REST、Highway等通信协议,同时保留了传统Servlet等通信协议的兼容。 丰富的服务治理能力和统一的治理职责链。负载均衡、流量控制、故障隔离等常见的微服务治理能力都可以开箱即用,同时提供了统一的治理职责链,让新的治理功能的开发变得简单。 和Spring Cloud一样,Java
单击待操作的实例名称。 在“负载均衡器”区域,单击“绑定负载均衡器”。 在“绑定负载均衡器”弹框中,在“弹性负载均衡器”筛选框中选择创建的ELB,也可单击“购买弹性负载均衡”进入购买页面购买弹性负载均衡。 当ELB与后端网络所在VPC不同时,VPC间网络需打通,且需开启ELB的跨VPC后端。
Cloud框架开发java应用,支持的注册中心包含Eureka、Nacos、 Consul以及Zookeeper。 优雅上下线基于Spring Cloud的负载均衡实现,若有实现自定义负载均衡,该能力将会失效。 优雅上线实现机制 预热是优雅上线的核心机制,Sermant Agent还提供了延迟注册机制,减少流量丢失,从而实现优雅上线。
retryEnabled: true # 是否开启重试策略 retryOnNext: 1 # 重新寻找一个实例重试的次数(不同于失败实例,依赖于负载均衡策略) retryOnSame: 0 # 在失败的实例上重试的次数 隔离:对于失败超过一定次数的服务实例,进行隔离。 开启实例隔离策略:
服务治理是一个非常宽泛的概念,一般指独立于业务逻辑之外,给系统提供一些可靠运行的系统保障措施。针对微服务场景下的常用故障模式,提供的保障措施包括: 负载均衡管理:提供多实例情况下的负载均衡策略管理,比如采用轮询的方式保障流量在不同实例均衡。当一个实例发生故障的时候,能够暂时隔离这个实例,防止访问这个实例造成请求超时等。
用于选择可用的弹性负载均衡,需与后端VPC子网网络互通,具体操作请参考对等连接。 说明: 当应用网关创建完成后,不支持变更虚拟私有云。 *弹性负载均衡 选择已创建的弹性负载均衡。此弹性负载均衡与入口网络属于同一个VPC子网。 说明: 当前仅支持独享型网络型负载均衡器。会使用所选E
入负载均衡器详细信息页面。 负载均衡器ID 创建应用网关时选择的负载均衡器ID,单击可复制。 访问端口 应用网关的访问端口,默认是支持80和443,也可自定义端口,具体操作请参考编辑访问端口。 负载均衡器 负载均衡器名称/ID 创建应用网关时选择的负载均衡器,可单击负载均衡器ID后的复制。
当应用网关创建完成后,不支持变更虚拟私有云。 *弹性负载均衡 选择已创建的弹性负载均衡。 若当前没有可用的弹性负载均衡,可单击“购买弹性负载均衡”进入弹性负载均衡页面进行购买。 说明: 当前仅支持独享型网络型负载均衡器。默认会使用所选ELB的80、443端口,如果选择的负载均衡器已经占用了部分端口,会创建失败。
测,同时不会出现偶然的业务失败,影响体验。 连接数和超时设置 # 服务端verticle实例数,保持默认值即可。建议配置为8~10。 servicecomb.rest.server.verticle-count: 10 # 最大连接数限制。默认值为 Integer.MAX_VAL
创建账号请参考新增账号。 单击需要治理的微服务。 单击“负载均衡”。 单击“新增”。先选择需要治理的微服务,再选择合理的负载均衡策略,请参考下表。 图1 设置负载均衡(Spring Cloud开发框架接入的微服务) 图2 设置负载均衡(Java Chassis开发框架接入的微服务) 策略名
管理应用网关 查看应用网关信息 编辑访问端口 绑定/解绑负载均衡器 管理标签 修改应用网关维护时间窗 扩容应用网关 删除应用网关 升级应用网关 父主题: 应用网关
使用服务治理 服务治理概述 流量标记 限流 容错 熔断 隔离仓 负载均衡 降级 错误注入 自定义治理 黑白名单 父主题: 使用ServiceComb引擎功能
*鉴权服务 可在下拉框中选择已接入该应用网关的服务。 说明: 鉴权服务与后端业务建议为不同服务,若为同服务,则鉴权的负载均衡和后端转发的负载均衡可能会互相影响,导致负载均衡出现异常结果。 *端口 鉴权服务的端口,用于接收来自客户端或网关的鉴权请求。取值范围为1~65534。 说明:
AK/SK未配置时空指针异常。 服务启动后首次并发请求,限流策略不生效。 governance服务转发错误。 环境是production时,重复注册契约导致启动失败。 v1.3.3-Greenwich 注册中心监听不生效。 1.6.1-Finchley 服务启动后第一次并发,调用随机失败。 微服务跨应用调用失败。
服务端隔离仓 √ √ √ - 客户端熔断 × √ × - 客户端容错 × √ × - 客户端降级 × × × - 客户端故障注入 × × × - 负载均衡策略 √ √ × - 灰度发布 × √ √ - 优雅停机 √ √ × - 微服务治理 优雅上下线 √ √ √ - 无损升级 √ √ √ -
隔离仓 隔离是一种异常检测机制,常用的检测方法是请求超时、流量过大等。一般的设置参数包括超时时间、同时并发请求个数等。 Java Chassis的隔离作用于微服务消费者,需要微服务应用集成隔离模块,启用bizkeeper-consumer处理链。 配置如下: servicecomb:
Chassis基于Reactive,实现了高效的REST、Highway等通信协议,同时保留了传统Servlet等通信协议的兼容。 丰富的服务治理能力和统一的治理职责链。负载均衡、流量控制、故障隔离等常见的微服务治理能力都可以开箱即用,同时提供了统一的治理职责链,让新的治理功能的开发变得简单。 Spring Cloud应用实现优雅上下线功能
当服务遇到一些非致命性的错误(如偶尔超时)时,可以通过重试的方式来避免服务的最终失败。 隔离仓 面对大规模并发流量风暴,或可预知的流量冲击,对并发流量进行控制,防止瞬时并发流量过大造成服务和数据崩溃,导致服务不可用。 熔断 当某业务场景的错误率超过设定阈值时,为了保证整体业务系统