检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
SDK简介 ModelArts服务软件开发工具包(ModelArts SDK)是对ModelArts服务提供的REST API进行的Python封装,以简化用户的开发工作。用户直接调用ModelArts SDK即可轻松管理数据集、启动AI训练以及生成模型并将其部署为在线服务。
在过往性能调优场景中,如果性能profiling数据在OBS上,通常需要将TB或者GB级别的profiling数据下载至本地后才能使用msprof-analyze进行分析,大量数据的下载耗时以及对本地大规格存储盘的要求容易导致分析受阻。
的方式登录Server。
的方式登录Server。
的方式登录Server。
表56 JobEndpointsResp 参数 参数类型 描述 ssh SSHResp object SSH连接信息。 jupyter_lab JupyterLab object JupyterLab连接信息。
SSH登录机器后,检查NPU卡状态。运行如下命令,返回NPU设备信息。
表55 JobEndpointsResp 参数 参数类型 描述 ssh SSHResp object SSH连接信息。 jupyter_lab JupyterLab object JupyterLab连接信息。
msprobe工具使用指导 msprobe API预检 msprobe精度比对 msprobe梯度监控 父主题: GPU业务迁移至昇腾训练推理
output = model_inference(input_data) # 保存网络输出节点名称、维度、shape及输出到本地文件。
的方式登录Server。
的方式登录服务器。
预检工具使用包含以下三步:dump、run_ut以及api_precision_compare。基本步骤如下: 通过pip安装msprobe工具。 # shell pip install mindstudio-probe 获取NPU和GPU的dump数据。
Summary数据上传到Notebook路径/home/ma-user/work/下的方式,请参见上传本地文件至JupyterLab。
SSH登录机器后,检查NPU卡状态。运行如下命令,返回NPU设备信息。
SSH登录机器后,检查NPU卡状态。运行如下命令,返回NPU设备信息。
如果需要通过VS Code连接Notebook方式进行代码调试,则需开启“SSH远程开发”并选择密钥对,请参考VS Code连接N。 参数填写完成后,单击“立即创建”进行规格确认。 参数确认无误后,单击“提交”,完成Notebook的创建操作。
在ModelArts运行态的Notebook容器中,采用动态挂载特性,将OBS对象存储模拟成本地文件系统。其本质是通过挂载工具,将对象协议转为POSIX文件协议。挂载后应用层可以在容器中正常操作OBS对象。
SSH登录机器后,检查NPU设备检查。运行如下命令,返回NPU设备信息。
处理方法 如果在运行训练作业时提示连接超时,请您将需要联网下载的数据提前下载至本地,并上传至OBS中。 父主题: 外网访问限制