AI开发平台MODELARTS-查询服务监控信息:响应参数

时间：2024-11-22 17:41:03

AI开发平台MODELARTS

状态码： 200

表4 响应Body参数
参数	参数类型	描述
service_name	String	服务名称。
service_id	String	服务ID。
monitors	Array of Monitor objects	监控信息详情。
service_running_instance_count	Integer	服务运行中实例数量。
service_instance_count	Integer	服务实例数量。
req_count_per_min	Long	服务分钟调用量，这里指当前时间上一分钟的服务调用总量。

表5 Monitor
参数	参数类型	描述
failed_times	Integer	模型实例调用失败次数，在线服务字段。
model_version	String	模型版本，在线服务字段。
cpu_memory_total	Integer	总内存，单位MB。
gpu_usage	Float	已使用GPU个数。
node_name	String	节点名称，边缘服务字段。
gpu_total	Float	总GPU个数。
model_id	String	模型ID，在线服务字段。
invocation_times	Integer	模型实例的总调用次数，在线服务字段。
cpu_core_usage	Float	已使用CPU核数。
cpu_core_total	Float	总CPU核数。
model_name	String	模型名称，在线服务字段。
cpu_memory_usage	Integer	已使用内存，单位MB。
node_id	String	边缘节点ID，边缘服务字段。
model_running_instance_count	Integer	模型运行中实例数。
model_instance_count	Integer	模型实例数。
gpu_memory_total	Float	gpu总显存，单位MB。
gpu_memory_usage	Float	已使用gpu显存，单位MB。
npu_total	Float	总NPU个数。
npu_usage	Float	已使用NPU个数。
npu_memory_total	Float	npu总显存，单位MB。
npu_memory_usage	Float	已使用npu显存，单位MB。