检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
例改造为跨AZ高可用实例，如独享ELB、CCE集群、DMS、OBS桶等，则需要新申请跨AZ高可用实例替换原来的单AZ高可用实例。 若云服务实例为单节点实例，如ECS，则通过申请多个AZ的多个实例承载相同业务，并利用跨AZ的ELB实现跨AZ的负载均衡和自动故障切换，或由应用层实现跨
单节点实例通过多实例实现高可用：当云服务只支持单节点发放，则需要应用层来实现多个节点之间的主备或负载均衡，如ECS实例，用户可以通过构建ELB+多ECS实例，来实现无状态业务在多实例之间的负载均衡和自动切换，或从应用层实现两个ECS实例的主备等。 硬件依赖实例从应用层实现高可用：当EC
提高计算速度和效率。 内存优化：通过调整内存分配和使用策略，如使用内存缓存、内存映射等技术，以提高数据处理和计算的速度和效率。 负载均衡：通过负载均衡技术，将数据和计算任务均匀地分配到多个节点上，以避免单个节点过载，提高系统的可用性和性能。 数据分区：将数据按照一定的规则分成多个分区，以便更好地进行数据处理和计算。
RabbitMq版：完全兼容开源RabbitMQ，提供即开即用、消息特性丰富、灵活路由、高可用、监控和告警等特性，广泛应用于秒杀、流控、系统解耦等场景。 RocketMQ版：低延迟、弹性高可靠、高吞吐、动态扩展、便捷多样的消息中间件服务。 可靠性功能 常见故障模式 父主题： 云服务可靠性介绍
接入层（外部DNS、API网关）：通过外部DNS进行域名解析，在IDC/其他云故障时手工将业务流量切换到华为云。 应用层（负载均衡器、应用软件及虚拟机或物理主机）：对于无状态应用，通过负载均衡器进行故障检测与负载均衡，在华为云上可通过AS弹性伸缩服务监控负载进行弹性伸缩；对于有状态应用，通过SDRS服务实现跨
控制业务流量一般通过动态资源管理来实现，不建议简单的使用静态门限来达到防过载的目的，有可能造成资源大量浪费，过载设计应该考虑以下方面： 动态限流：根据系统资源消耗情况动态调整流控门限。 弹性扩缩容：自动检测系统资源利用率，自动进行添加或删除资源。 先负载均衡后流控：多个并行处理单
云服务可靠性介绍 概述 ECS弹性云服务器 BMS裸金属服务 CCE云容器引擎 ELB弹性负载均衡 AS弹性伸缩 DCS分布式缓存服务 DMS分布式消息服务 RDS云数据库 GaussDB(for MySQL)云数据库 OBS对象存储服务 父主题： 韧性支柱
实施方案 冗余 ELB、RDS、DCS、Kafka、DDS等云服务实例均采用高可用部署。 备份 RDS、DDS数据库自动备份，有状态ECS通过CBR自动备份，在数据故障时使用最新备份数据恢复，可以满足可用性目标要求。 容灾 应用使用支持跨AZ的服务进行跨AZ部署，ELB、RDS跨AZ
进行Grid路由层设计。设计原则如下： 路由层是系统唯一的一个共享组件，因此需要尽可能的稳定，减少修改。 避免业务逻辑，保证尽可能的稳定，减少修改。 由于爆炸半径大，需要足够轻，足够简单，但是不能太简单。 某些情况，要考虑避免路由所有调用，有助于减少延迟，并减小路由层的规模。 支持横向扩展，避免路由层成为性能瓶颈。
为工作负载选择合适的计费模式 风险等级 中 关键策略 分析工作负载的每个组件。确定组件和资源是长时间运行（应享受承诺折扣，包年包月或购买资源包），还是短时间动态运行（采用 Spot 或按需定价）。使用成本管理工具中的建议对工作负载执行分析，并对这些建议应用业务规则以实现高回报。 相关服务和工具 为
用系统可设计为使用分布在多个可用区中的资源池，并利用云服务实例本身具备或应用自身支持的跨AZ数据复制与切换能力，在多个AZ之间复制数据、负载均衡和跨AZ故障切换，从而使应用系统具备应对可用区故障的能力。 RES03-01 集群跨AZ部署 RES03-02 跨AZ数据同步 RES03-03
正常处理支持的请求量，避免出现资源耗尽而导致所有请求都不能处理的情况。 RES13-01 采用自动弹性扩缩容 RES13-02 应用系统负载均衡，避免流量不均匀 RES13-03 过载检测与流量控制 RES13-04 支持主动扩容 RES13-05 资源自动扩容考虑了配额限制 RES13-06
网络延迟：评估工作负载所需的延迟，使用专用虚拟网络和主干网络，而不是遍历公共Internet。此方法可降低工作负载的延迟。 吞吐量：请考虑工作负载所需的吞吐量。配置网络路由选项以利用网络吞吐量优势。 PERF03-04 选择合适类型的网络云服务 父主题： PERF03 性能建模
工作负载亲和/反亲和：负载部署在相同节点（就近部署就近路由降低网络消耗），或负载部署在不同节点（减少宕机影响）； 详见“调度策略（亲和与反亲和）”。 过载控制 CCE集群支持过载控制，在开启过载控制后，可根据控制节点的资源压力，动态调整请求并发量，维护控制节点和集群的可靠性。详见“集群过载控制”。
DC专线/VPN主备：用户数据中心与华为云VPC之间同时部署DC专线和VPN两条网络链路，互为主备，并通过企业路由器，可以实现DC和VPN主备链路的自动切换，不需要手工切换双联路，不仅避免业务受损，同时降低维护成本。具体的方案参见“通过企业路由器构建DC/VPN双联路主备混合云组网”。 相关云服务和工具 云专线 DC
境和绿环境，蓝色是当前版本并拥有实时流量，绿色是包含更新代码的环境。当应用程序已经准备就绪，用户可以将所有流量都将路由到绿环境中，当出现问题时，可以快速将流量重新路由回蓝环境，进行故障恢复。 相关云服务和工具 部署 CodeArts Deploy：提供可视化、自动化部署能力，提供
负载。第一个（蓝色）实例处理所有工作负载。第二个（绿色）实例已使用新功能进行更新并进行了内部测试。经过内部测试后，生产流量的子集从蓝色实例路由到绿色实例。与金丝雀部署一样，当您引流更多流量转移到绿色实例时，引流是渐进的。完成转出后，更新实例将变为蓝色实例，绿色实例已准备好进行下一
制定应急预案 定期应急恢复演练 出现问题后尽快恢复业务 应急恢复回溯 RES013 您如何进行过载保护以适应流量变化？ 采用自动弹性扩缩容 应用系统负载均衡，避免流量不均匀 过载检测与流量控制 支持主动扩容 资源自动扩容考虑了配额限制 压力负载测试 RES14 您如何进行配置防差错？ 变更防呆检查
子进行分析，考虑算子层面向FA与MM算子方向优化。 2.路由规划加速最佳实践 ranktable路由规划是一种用于分布式并行训练中的通信优化能力，在使用NPU的场景下，支持对节点之间的通信路径根据交换机实际topo做网络路由亲和规划，进而提升节点之间的通信速度。本案例介绍如何在ModelArts
双活/多活容灾：生产站点与华为云灾备Region各部署一套业务系统，并将各自站点的重要数据异步复制到其他站点；每个站点都同时提供业务，通过全局负载均衡器进行流量分发；当一个站点发生灾难时，则将业务流量全部分发到其他站点来接管其业务。 以跨Region主备容灾为例，对于已在一个Regio
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
