检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
流量标记 Java Chassis通过Handler实现了基于流量标记治理能力。其中Provider实现了限流、熔断和隔离仓,Consumer实现了重试。
在“编辑路由”页面可修改路由的流量特征和路由规则参数。 单击“保存并发布”,该路由编辑完成,且该路由已发布。 当单击“保存”后,该路由编辑完成但未发布。 父主题: 配置路由
预热是基于客户端实现的,当流量进入时,Sermant Agent会动态调整流量,根据服务的预热配置,对流量进行动态分配。对于开启服务预热的实例,在刚启动时,会给该实例分配较少的流量,随后流量将以曲线方式逐渐增加至与其他实例近乎持平。
服务网格技术实际利用了网络流量劫持的方式来管理服务间流量,除了mesher本身内部的逻辑处理会耗时之外,还会引起额外的用户态和内核态间转换(CPU会有额外消耗),而前者相对于后者性能影响极小,因此性能损耗基本取决于网络中传输的payload大小。
概述 背景信息 在微服务架构下,有些开发需求会使微服务调用链路上的多个微服务同时发生了改动,通常每个微服务都会有灰度环境或分组来接收灰度流量。
才能对匹配的流量执行隔离仓策略。
才能对匹配的流量执行限流策略。
隔离仓 面对大规模并发流量风暴,或可预知的流量冲击,对并发流量进行控制,防止瞬时并发流量过大造成服务和数据崩溃,导致服务不可用。 熔断 当某业务场景的错误率超过设定阈值时,为了保证整体业务系统的可用性,在此后的一分钟内该业务场景下的所有请求会被拒绝。
Sermant Agent提供了标签路由的能力,标签路由通过匹配dubbo attachment中的信息,把符合规则的流量转发到对应的标签应用中,从而实现标签路由的功能。 此功能目前处于公测阶段,当前仅在华东-上海一支持。
应用网关添加ServiceComb引擎中的服务并为其配置路由策略 CSE应用网关是各类应用的流量入口,是基于Envoy项目增强的云上托管类网关产品,实现Ingress与微服务网关合一的全新形态。
Sermant Agent提供了标签路由的能力,标签路由通过匹配http请求头中的信息,把符合规则的流量转发到对应的标签应用中,从而实现标签路由的功能。 此功能目前处于公测阶段,当前仅在华东-上海一支持。
负载均衡 负载均衡作用在客户端,是高并发、高可用系统必不可少的关键组件,目标是尽力将网络流量平均分发到多个服务器上,以提高系统整体的响应速度和可用性。 Java Chassis的负载均衡作用于微服务消费者,需要微服务应用集成负载均衡模块,启用loadbalance处理链。
目的是当路由的QPS指标达到设定的阈值时,应用网关会立即拦截流量,防止瞬时的流量高峰将后端服务破坏,确保服务高可用性。单位可为秒、分钟和小时。 说明: 总体限流阈值表示所有节点限流值的总和。实际单节点的限流值=总体限流阈值/节点数,且值向上取整。
容灾切换 当应用网关的后端服务全部异常时,支持手动切流,将流量转到容灾站点网关。 使用限制 生效粒度为“网关全局”只能开启一条切流规则。 生效粒度为“路由”和“域名”同级别的可以开启多条,但是不同级别的不能同时开启。
自定义治理功能可以方便地在不同的场景下使用基于流量的治理能力,比如在网关场景下进行流控,在Java Chassis场景下支持URL匹配等。SDK基于Spring,使用Spring的框架都能够灵活的使用这些API,方法类似。 下面以流控为例,说明如何使用API。
本章节重点介绍如何使用基于流量特征的服务治理能力。 父主题: 使用服务治理
Spring Cloud应用实现优雅上下线功能 在应用使用过程中,应用的发布、重启、扩缩容操作无法避免,为了保证应用正确上下线、流量不丢失,微服务引擎基于Sermant Agent提供了一套优雅上下线的方案,包括预热、延迟下线等,避免了请求超时、连接拒绝、流量丢失等问题的发生。
上述路由规则的解释如下: 当请求头中包含id的时候,将80%流量转发到1.0.1版本,将20%流量转发到1.0.0 版本。当请求中不包含上述header的时候,将80%的流量转发到实例标签为group:green的实例,20%的流量转发到实例标签为group:red的实例。
上述路由规则的解释如下: 当attachment中包含id的时候,将80%流量转发到1.0.1版本,将20%流量转发到1.0.0版本。
spring cloud gateway屏蔽了内部微服务的结构,一般会搭配流量控制、安全认证等服务治理策略,使得内部服务能够灵活的进行拆分合并,降低内部服务直接面对流量攻击的风险。 父主题: 通过Spring Cloud Huawei SDK托管Spring Cloud应用