检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
训练显存优化实践 pytorch的内存池基本管理策略 pytorch的内存池以block为粒度来进行管理，block池分为小内存池与大内存池，block是pytorch向device驱动申请内存的粒度，整存整取。用户/Pytorch代码向内存池申请内存的接口归一为tensor的申请释
使用正确的数据结构：选择合适的数据结构可以大辐提高算法的效率。例如，使用哈希表可以快速查找元素，使用数组可以快速访问元素。 减少内存分配：内存分配是一个耗时的操作。可以通过预先分配内存或者重复使用已分配的内存来减少内存分配。 减少循环次数：循环是一个常见的算法结构，但是循环次数过多会导致程序性能下降。可以通过使用更高效的算法来减少循环次数。
瓶颈。 不同应用对资源需求不同，例如： 功耗密集型业务（如高性能计算、人工智能、深度学习等场景）主要就是消耗计算维度的容量。 内存密集型业务（如大数据处理、图像/视频处理、游戏开发、数据库等场景）主要消耗内存和存储维度的容量。 存储密集型业务（如大型数据库、大数据分析、大规模文件
可靠性功能 数据备份和恢复 使用CBR云备份服务可对BMS的所有云硬盘（系统盘和数据盘）进行备份，支持基于多云硬盘一致性快照技术的备份服务，并支持利用备份数据恢复裸金属服务器数据，最大限度保障用户数据的安全性和正确性，确保业务安全。详见“备份裸金属服务器”。 集群HA 配合共享云
可靠性功能 数据备份和恢复 使用CBR云备份服务可对ECS的备份保护服务，支持基于多云硬盘一致性快照技术的备份服务，并支持利用备份数据恢复ECS数据。详见“云备份概述”。 故障自愈 当ECS支持自动恢复时，可以开启自动恢复能力，当物理服务器损坏时以冷迁移方式重启ECS实例，使弹性
影响。 数据备份和恢复 RDS支持每天自动备份数据，备份都是以压缩包的形式自动存储在对象存储服务（Object Storage Service，简称OBS）。备份文件保留732天，支持一键式恢复。用户可以设置自动备份的周期，还可以根据自身业务特点随时发起备份，选择备份周期、修改备份策略。
时间在半分钟内。 数据备份和恢复 DCS支持将当前时间点的实例缓存数据备份并存储到OBS中，以便在缓存实例发生异常后能够从备份数据进行恢复。DCS实例支持定时和手动两种备份方式，定时备份频率以天为单位，最多保存7天，但至少会保留一个数据备份文件；手动备份由用户触发，通常在执行业
COST07-01 持续监控资源利用率指标 风险等级 高 关键策略 持续地在组织中定义资源的核心利用率指标（如CPU利用率，内存，CDN服务的流量，数据库的TPS），按（天、周、月）等时间周期发现规律，对低利用率资源的应用/项目进行审查。 父主题： COST07 管理和优化资源
置合理的内存。 根据自己的业务目标，规划CPU资源和内存资源。规划时，需要结合当前的数据分布情况，业务复杂度，设置“executor-memory”，“executor-cores”，“Executor-num”，并在此基础上，规划需要的CPU核数和内存大小。 在规划内存时，要预
云服务资源性能优化步骤包括: 识别性能瓶颈: 通过监控和分析云服务资源使用情况，找出性能瓶颈。 优化资源配置: 根据性能瓶颈，调整云服务资源的配置，如 CPU 、内存、网络等。 使用缓存: 使用缓存技术，如 CDN 、 Redis 等，提高数据访问速度。 代码优化: 对云服务资源使用的代码进行优化，提高代码执行效率。
知。 RDS服务最多支持5个只读副本，可在线扩展只读负载；一键规格变更实现CPU、内存扩容/缩容；在线存储容量扩容。 CCE服务支持配置自动扩容集群节点和工作负载，伸缩策略支持告警（按CPU或内存使用率触发）、定时、周期多种方式。 相关云服务和工具 弹性伸缩 AS 云容器引擎 CCE
云服务性能优化介绍 缓存性能优化 消息队列性能优化 Serverless性能优化 数据库性能优化 人工智能性能优化 大数据性能优化 父主题： 性能效率支柱
网络等资源，提升整体资源利用率、缩短需求发布周期，提高应用的研发效率。 用户可以通过云监控服务监控Serverless实例的CPU使用率、内存使用率，当满足一定条件，自动触发Serverless算力扩容和缩容，从而提供资源使用率，降低成本。 相关服务和工具 华为云以Serverl
常见故障模式 CPU /内存/磁盘/带宽使用率过高 检测：通过CES监控CPU /内存/磁盘/带宽使用率。 恢复： 当CPU/内存使用高时，可根据业务情况，手工修改代理规格或增加代理数量以扩展资源。 当磁盘使用率高时，可根据业务情况，修改实例存储空间支持更大存储空间。 当带宽使用
CCE集群的CPU /内存/磁盘容量使用率过高 检测：通过AOM监控CCE集群的CPU/内存/磁盘容量使用率。 恢复： 根据业务情况，手工变更集群规格或扩展资源。 CCE节点的CPU /内存/磁盘容量/磁盘IOPS/GPU/GPU缓存使用率过高 检测：通过AOM监控CCE节点的CPU/内存/磁盘
恢复：对于无状态业务，使用模板快速发放新实例；对于有状态业务，使用CBR云备份服务对ECS进行定期备份，在数据被删除时使用备份数据快速恢复。 ECS实例使用本地盘时本地盘故障 检测：应用层检测本地盘运行状态。 恢复：应用层采用RAID实现ECS内硬盘高可用，并实现跨ECS的数据复制与高可用，以便在本地盘故障时业务可快
对于有状态业务，使用CBR云备份服务对BMS云硬盘进行定期备份，在数据被删除时使用备份数据快速恢复。 BMS实例物理服务器或本地盘故障 检测：应用层检测物理服务器和本地盘运行状态 恢复：应用层采用RAID实现BMS内硬盘高可用，并实现跨BMS的数据复制与高可用，以便在物理服务器或
收集容量数据有助于将业务目标转化为技术要求，并且对于预测容量至关重要。为了满足工作负载需求，收集容量数据需要包括系统资源消耗数据以及业务关键数据。 资源消耗数据：包括CPU、内存、磁盘空间、网络带宽等，以便确定系统的瓶颈所在。 业务关键数据：包括用户数量、用户行为模式、业务类型、业务时段等，以便确定业务需求对工作负载的影响。
6 之后新增的特性。惰性队列的消息会自动存储到磁盘，因此减少了内存的使用率，但是会增加I/O开销，影响吞吐量。使用惰性队列能够更好的把控性能，并且使得集群更加的稳定。和非惰性队列不同，消息不会积累在内存中然后等到内存不足再一次性刷到磁盘，造成队列性能不稳定。如果你需要一次发送大量
常见故障模式 RDS的CPU /内存/磁盘容量/磁盘IOPS/数据库连接数使用率过高 检测：通过CES监控CPU /内存/磁盘容量/磁盘IOPS/数据库连接数使用率。 恢复： 根据业务情况，手工变更规格以扩展资源。 开启存储空间自动扩容，以便在磁盘容量不足时自动扩容。 应用层进行过载保护，保障优先业务的运行。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
