检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
监控Lite Server资源 使用CES监控Lite Server资源 使用DCGM监控Lite Server资源 父主题： Lite Server资源管理
Standard资源池 ModelArts支持使用ECS创建专属资源池吗？ 1个节点的专属资源池，能否部署多个服务？ 专属资源池购买后，中途扩容了一个节点，如何计费？ 共享池和专属池的区别是什么？ 如何通过ssh登录专属资源池节点？ 训练任务的排队逻辑是什么？ 专属资源池下的在线服务停止后，启动新的在线服务，提示资源不足
购买Server资源 7、在ModelArts控制台上购买资源池。 步骤1：申请开通资源规格 请联系华为云客户经理确认Server资源方案、申请要开通资源的规格（若无客户经理可提交工单）。 步骤2：资源配额提升 由于Server所需资源可能会超出华为云默认提供的资源（如ECS、EI
不同实例的资源池安装的cuda和驱动版本号分别是什么？ 专属资源池的cuda和驱动版本是可以根据用户的要求安装。如果需要调整，需提工单。 父主题： Standard资源池
Cluster资源池节点驱动状态处于运行中，且专属池中的节点需要含有GPU/Ascend资源。 节点驱动升级操作 登录ModelArts管理控制台，在左侧菜单栏中选择“AI专属资源池 > 弹性集群 Cluster”，在“弹性集群”页面，选择“Lite资源池”页签，查看资源池列表。 进
添加/编辑/删除资源标签 资源标签用于方便管理资源的计费账单。 在节点的操作列，选择“更多>编辑资源标签”，支持编辑单个节点的资源标签。 也可以勾选节点名称，在节点列表上方单击“更多 > 添加/编辑资源标签”或者“删除资源标签”，批量操作节点资源标签。 图4 添加/编辑/删除资源标签 导出节点数据
监控Lite Cluster资源 使用AOM查看Lite Cluster监控指标 使用Prometheus查看Lite Cluster监控指标 父主题： Lite Cluster资源管理
操作。 添加/编辑/删除资源标签 资源标签用于方便管理资源的计费账单。 勾选节点名称，选择节点列表上方的“添加/编辑资源标签”或“删除资源标签”，操作单个节点或批量操作节点资源标签。 查找搜索节点 在节点管理页面的搜索栏中，支持通过节点名称、IP地址、资源标签等关键字搜索节点。 设置节点列表显示信息
在TMS中根据资源类型查询ModelArts资源使用情况 登录TMS控制台，在资源标签页面根据资源类型和资源标签查询指定区域的资源任务。 区域：使用华为云的具体Region，区域概念请参见什么是区域、可用区？ 资源类型：ModelArts支持查询的资源类型如表1所示。 资源标签：不填
Lite Cluster资源开通 集群资源开通流程 开通集群资源过程中用户侧需要完成的任务流程如下图所示。 图1 用户侧任务流程 表1 Cluster资源开通流程 任务 说明 Step1 申请开通资源规格 当前部分规格为受限购买，需要提前联系客户经理申请开通资源规格，预计1~3个工作
专属资源池购买后，中途扩容了一个节点，如何计费？ 华为云会重新计算一个增加了该节点的账单，付费以后才能使用。 父主题： Standard资源池
算法运行时需要依赖鉴权服务，公共资源池是否支持两者打通网络？ 不支持，公共资源池不能打通网络。可通过专属资源池打通网络，使用ModelArts服务。 父主题： Standard资源池
在Lite Cluster资源池上使用Snt9B完成推理任务 场景描述 本案例介绍如何在Snt9B环境中利用Deployment机制部署在线推理服务。首先创建一个Pod以承载服务，随后登录至该Pod容器内部署在线服务，并最终通过新建一个终端作为客户端来访问并测试该在线服务的功能。
在AOM控制台查看ModelArts所有监控指标 ModelArts会定期收集资源池中各节点的关键资源（GPU、NPU、CPU、Memory等）的使用情况以及开发环境、训练作业、推理服务的关键资源的使用情况，并上报到AOM，用户可直接在AOM上查看。 登录AOM控制台查看监控指标 登录控制台，搜索AOM，进入“应用运维管理”控制台。
本章节主要介绍如何通过Prometheus查看Lite Cluster监控指标。 约束限制 需要在ModelArts Lite Cluster资源池详情页的配置管理页面中先打开“监控”开关。 开通此功能后，兼容Prometheus指标格式的第三方组件可通过API http://<节点
资源和引擎规格接口 查询资源规格列表 查询引擎规格列表 父主题： 训练管理
数不大于10w个。分层时，先构建不常变化的层，例如：先OS，再cuda驱动，再Python，再pytorch，再其他依赖包。 不建议把数据、代码放到容器镜像里。因为对应内容应该是经常变动的，会导致频繁的容器镜像构建操作。 不建议在容器内再创建多个conda env。因为容器已经能满足隔离需求，没有必要再通过conda
修改lr_scheduler.py文件，把第27行：t_mul=1. 注释掉。 修改data文件夹下imagenet22k_dataset.py，把第28行：print("ERROR IMG LOADED: ", path) 注释掉。 修改data文件夹下的build.py文件，把第112行：prefix
object 节点资源量信息。 availableResources NodeResource object 节点可用资源量信息。 表9 NodeResource 参数 参数类型 描述 cpu String CPU资源量。 memory String 内存资源量。 nvidia.com/gpu
专属资源池训练 资源选择推荐 步骤总览 资源购买 基本配置 调试与训练 FAQ 父主题： 历史待下线案例
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
