检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
流量标记 Java Chassis通过Handler实现了基于流量标记治理能力。其中Provider实现了限流、熔断和隔离仓,Consumer实现了重试。 使用流量标记治理能力,首先需要在代码中引入依赖: <dependency> <groupId>org.apache.servicecomb</groupId>
编辑路由 若您想修改路由信息,包括流量特征和目标服务,可进行编辑路由操作。 登录微服务引擎控制台。 在左侧导航栏选择“应用网关 ”。 单击待操作的实例名称。 在左侧导航栏选择“路由管理 > 路由配置”。 单击待编辑路由“操作”列的“编辑”,也可单击待编辑的路由,进入路由详情页面,单击右上角的“编辑”。
该方式主要用于解决当流量突然增加时,可能瞬间把实例压垮的问题。通过预热,让通过的流量缓慢增加,在一定时间内逐渐增加到阈值上限,目的是采用少流量对服务实例进行初始化,防止服务崩溃。预热是基于客户端实现的,当流量进入时,Sermant Agent会动态调整流量,根据服务的预热配置,对流量进行动态
mesher性能损耗是多少? 服务网格技术实际利用了网络流量劫持的方式来管理服务间流量,除了mesher本身内部的逻辑处理会耗时之外,还会引起额外的用户态和内核态间转换(CPU会有额外消耗),而前者相对于后者性能影响极小,因此性能损耗基本取决于网络中传输的payload大小。以h
在微服务架构下,有些开发需求会使微服务调用链路上的多个微服务同时发生了改动,通常每个微服务都会有灰度环境或分组来接收灰度流量。此时希望通过进入上游灰度环境的流量,也能进入下游灰度的环境中,确保一个请求始终在灰度环境中传递,即使这个调用链路上有一些微服务没有灰度环境,这些应用请求在
在微服务存在多个版本、多个实例的情况下,需要管理服务之间的路由,达到无损升级、应用拨测等业务目的。Sermant Agent提供了标签路由的能力,标签路由通过匹配dubbo attachment中的信息,把符合规则的流量转发到对应的标签应用中,从而实现标签路由的功能。 此功能目前处于公测阶段,当前仅在华东-上海一支持。
在微服务存在多个版本、多个实例的情况下,需要管理服务之间的路由,达到无损升级、应用拨测等业务目的。Sermant Agent提供了标签路由的能力,标签路由通过匹配http请求头中的信息,把符合规则的流量转发到对应的标签应用中,从而实现标签路由的功能。 此功能目前处于公测阶段,当前仅在华东-上海一支持。
业务性能很好的情况。 即非并发场景,接口的平均时延小于10ms。 业务性能很好的时候,为了让业务系统具备更好的可预测性,防止JVM垃圾回收、网络波动、突发流量等对系统的稳定性造成冲击,需要能够快速丢弃请求,并配合重试等措施,以保障波动情况下系统性能可预测,同时不会出现偶然的业务失败,影响体验。 连接数和超时设置
隔离仓 隔离是一种异常检测机制,常用的检测方法是请求超时、流量过大等。一般的设置参数包括超时时间、同时并发请求个数等。 Java Chassis的隔离作用于微服务消费者,需要微服务应用集成隔离模块,启用bizkeeper-consumer处理链。 配置如下: servicecomb:
可,就可以最多接受rate个请求,超过的将被限流,返回响应码429。 Java Chassis的限流作用于微服务提供者,需要微服务应用集成流量控制模块,启用qps-flowcontrol-provider处理链。 配置示例如下: servicecomb: handler:
待治理的微服务开发框架需要启用基于动态配置的流量特征治理功能。如果没有启用,仍然可以使用微服务治理功能,但是不会产生治理效果。 治理策略说明 支持限流、熔断、重试和隔离仓等策略的配置,具体说明见下表。 治理策略名称 说明 限流 面对流量风暴,或可预知的流量冲击,对非重点业务场景进行限流,防止瞬时流量过大造成服务和数据崩溃,导致服务不可用。
应用网关添加ServiceComb引擎中的服务并为其配置路由策略 CSE应用网关是各类应用的流量入口,是基于Envoy项目增强的云上托管类网关产品,实现Ingress与微服务网关合一的全新形态。您可以为微服务创建一个应用网关,通过从ServiceComb引擎、Nacos引擎、固定
负载均衡 负载均衡作用在客户端,是高并发、高可用系统必不可少的关键组件,目标是尽力将网络流量平均分发到多个服务器上,以提高系统整体的响应速度和可用性。 Java Chassis的负载均衡作用于微服务消费者,需要微服务应用集成负载均衡模块,启用loadbalance处理链。 配置示例如下:
符合规则的流量转发到对应的标签应用中,从而实现标签路由的功能。 Spring Cloud应用实现全链路灰度 在微服务架构下,有些开发需求会使微服务调用链路上的多个微服务同时发生了改动,通常每个微服务都会有灰度环境或分组来接收灰度流量。此时希望通过进入上游灰度环境的流量,也能进入下
设定的阈值时,应用网关会立即拦截流量,防止瞬时的流量高峰将后端服务破坏,确保服务高可用性。单位可为秒、分钟和小时。 说明: 总体限流阈值表示所有节点限流值的总和。实际单节点的限流值=总体限流阈值/节点数,且值向上取整。 突发最大请求数 允许突发流量瞬时的最大请求数。目的是当路由的
自定义治理 服务治理的默认实现并不一定能够解决业务的所有问题。自定义治理功能可以方便地在不同的场景下使用基于流量的治理能力,比如在网关场景下进行流控,在Java Chassis场景下支持URL匹配等。SDK基于Spring,使用Spring的框架都能够灵活的使用这些API,方法类似。
容灾切换 当应用网关的后端服务全部异常时,支持手动切流,将流量转到容灾站点网关。 使用限制 生效粒度为“网关全局”只能开启一条切流规则。 生效粒度为“路由”和“域名”同级别的可以开启多条,但是不同级别的不能同时开启。 可以配置多个域名级切流规则,但是已经被某条域名级切流规则引用的
轮询的方式保障流量在不同实例均衡。当一个实例发生故障的时候,能够暂时隔离这个实例,防止访问这个实例造成请求超时等。 限流:流控的主要目的是提供负载保护,防止外部流量超过系统处理能力,导致系统崩溃。流控还被用于平滑请求,让请求以均匀分布的方式到达服务,防止突发的流量对系统造成冲击。
扩容Nacos引擎 Nacos引擎容量支持在线扩容,只有低容量的引擎支持此操作。 扩容Nacos引擎 登录微服务引擎控制台。 在左侧导航栏选择“注册配置中心”。 在待扩容的Nacos引擎实例“操作”列,选择“更多 > 扩容”,也可单击待扩容的Nacos引擎,在Nacos引擎的“基
扩容应用网关 应用网关规格支持在线扩容,只有低规格的实例支持扩容到高规格。 登录微服务引擎控制台。 左侧导航栏选择“应用网关 ”。 单击待操作的实例“操作”栏的“扩容”,也可在应用网关的“基础信息”页面,单击“基础信息”区域“容量规格”后的“扩容”。 在“应用网关规格变更”页面,选择待变更的规格。