检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
监控Lite Cluster资源 使用AOM查看Lite Cluster监控指标 使用Prometheus查看Lite Cluster监控指标 父主题： Lite Cluster资源管理
Standard专属资源池 ModelArts支持使用ECS创建专属资源池吗？ 在ModelArts中1个节点的专属资源池，能否部署多个服务？ 在ModelArts中公共资源池和专属资源池的区别是什么？ ModelArts中的作业为什么一直处于等待中？ ModelArts控制台为什么能看到创建失败被删除的专属资源池？
单击“输出路径”，跳转至OBS对象路径，下载训练得到的模型。 在本地环境进行离线部署。 具体请参见模型调试章节在本地导入模型，参见服务调试章节，将模型离线部署在本地并使用。 父主题： Standard推理部署
专属资源池计费项 计费说明 在ModelArts进行AI全流程开发时，会产生计算资源的计费，计算资源为进行运行自动学习、Workflow、开发环境、模型训练和部署服务的费用。具体内容如表1所示。 表1 计费项 计费项 计费项说明 适用的计费模式 计费公式 计算资源 专属资源池 使用计算资源的用量。
专属资源池训练 资源选择推荐 步骤总览 资源购买 基本配置 调试与训练 FAQ 父主题： 历史待下线案例
监控Lite Server资源 使用CES监控Lite Server资源 使用DCGM监控Lite Server资源 父主题： Lite Server资源管理
0（SP10）和aarch64架构的包为例来进行讲解。 安装固件和驱动包。 固件和驱动安装时，注意安装顺序： 首次安装场景：硬件设备刚出厂时未安装驱动，或者硬件设备前期安装过驱动固件但是当前已卸载，上述场景属于首次安装场景，需按照“驱动->固件”的顺序安装驱动固件。 覆盖安装场景：硬件设备前期安装过驱动固件且未卸载，
购买Server资源 7、在ModelArts控制台上购买资源池。 步骤1：申请开通资源规格 请联系华为云客户经理确认Server资源方案、申请要开通资源的规格（若无客户经理可提交工单）。 步骤2：资源配额提升 由于Server所需资源可能会超出华为云默认提供的资源（如ECS、EI
处理方法 服务部署失败后，进入服务详情界面，查看服务部署日志，明确服务部署失败原因（用户代码输出需要使用标准输入输出函数，否则输出的内容不会呈现到前端页面日志）。根据日志中提示的报错信息找到对应的代码进行定位。 如果模型启动失败根本没有日志，则考虑使用推理模型调试功能，具体参见：在开发环境中构建并调试推理镜像。
并打开节点的安全组配置，添加入方向规则，允许外部访问9090端口。 如果使用Grafana对接Prometheus制作报表，可以将Grafana部署在集群内，这里不需要对Prometheus绑定公网IP和配置安全组，只需要对Grafana绑定公网IP和配置安全组即可。 图1 添加入方向规则
在Lite Cluster资源池上使用Snt9B完成推理任务 场景描述 本案例介绍如何在Snt9B环境中利用Deployment机制部署在线推理服务。首先创建一个Pod以承载服务，随后登录至该Pod容器内部署在线服务，并最终通过新建一个终端作为客户端来访问并测试该在线服务的功能。
Cluster会定期收集资源池中各节点的关键资源（GPU、NPU、CPU、Memory等）的使用情况并上报到AOM，用户可直接在AOM上查看默认配置好的基础指标，也支持用户自定义一些指标项上报到AOM查看。 此外，还支持在ModelArts Lite Cluster上安装Promethe
查询OS的配置参数 功能介绍 获取ModelArts OS服务的配置参数，如网络网段，用户资源配额等。 调试 您可以在API Explorer中调试该接口，支持自动认证鉴权。API Explorer可以自动生成SDK代码示例，并提供SDK代码示例调试功能。 URI GET /v1
安装步骤，您可针对需要安装的软件查看对应的内容： 安装NVIDIA驱动 安装CUDA驱动 安装Docker 安装nvidia-fabricmanager 以下提供常见的配置场景，您可查看相关文档方便您快速配置： GP Vnt1裸金属服务器EulerOS 2.9安装NVIDIA 515+CUDA
操作。 添加/编辑/删除资源标签 资源标签用于方便管理资源的计费账单。 勾选节点名称，选择节点列表上方的“添加/编辑资源标签”或“删除资源标签”，操作单个节点或批量操作节点资源标签。 查找搜索节点 在节点管理页面的搜索栏中，支持通过节点名称、IP地址、资源标签等关键字搜索节点。 设置节点列表显示信息
Cluster资源池节点驱动状态处于运行中，且专属池中的节点需要含有GPU/Ascend资源。 节点驱动升级操作 登录ModelArts管理控制台，在左侧菜单栏中选择“AI专属资源池 > 弹性集群 Cluster”，在“弹性集群”页面，选择“Lite资源池”页签，查看资源池列表。 进
SFS容量型文件系统不适合海量小文件业务。 静态挂载 动态挂载 EVS 适用于Notebook场景，开发过程的数据持久化。 每个云盘只能在单个节点挂载。 存储大小根据云硬盘的大小而定。 静态挂载 动态挂载 父主题： Lite Cluster资源配置
资源和引擎规格接口 查询资源规格列表 查询引擎规格列表 父主题： 训练管理
Lite Cluster资源开通 集群资源开通流程 开通集群资源过程中用户侧需要完成的任务流程如下图所示。 图1 用户侧任务流程 表1 Cluster资源开通流程 任务 说明 Step1 申请开通资源规格 当前部分规格为受限购买，需要提前联系客户经理申请开通资源规格，预计1~3个工作
ModelArts Standard资源管理 Standard资源池功能介绍 创建Standard专属资源池 管理Standard专属资源池
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
