AI开发平台MODELARTS-性能监控:监控指标

时间:2023-12-29 18:18:21

监控指标

监控数据见下表:

表1 监控指标

参数名称

参数说明

CPU使用率

服务和AI应用版本的CPU使用率。

内存使用率

服务和AI应用版本的内存使用率。

GPU使用率

使用GPU资源时显示。服务和AI应用版本的GPU使用率。

服务访问量

服务和AI应用版本的总的调用量。

成功率

服务和AI应用版本的调用成功率。

分钟级访问量

显示服务前一分钟的调用次数。

正常实例数/总实例数

服务的总实例数和正常实例数。

support.huaweicloud.com/inference-modelarts/inference-modelarts-0034.html