-
查看AI应用列表 - AI开发平台ModelArts
说明 版本 AI应用当前版本。 状态 AI应用当前状态。 部署类型 AI应用支持部署的服务类型。 AI应用大小 AI应用的大小。 模型来源 显示AI应用模型的来源。 创建时间 AI应用的创建时间。 描述 AI应用的描述。 操作 部署:将AI应用发布为在线服务、批量服务或边缘服务。 发布:将AI应用发布至AI
-
(可选)本地安装ma-cli - AI开发平台ModelArts
whl ...... Successfully installed ma_cli.*.*.* 在安装ma-cli时会默认同时安装所需的依赖包。当显示“Successfully installed”时,表示ma-cli安装完成。 如果在安装过程中报错提示缺少相应的依赖包,请根据报错提示执行如下命令进行依赖包安装。
-
昇腾云服务6.3.905版本说明 - AI开发平台ModelArts
905-20240611214128.zip 三方大模型训练和推理代码包 获取路径:Support-E 说明: 如果没有下载权限,请联系您所在企业的华为方技术支持下载获取。 AscendCloud-3rdAIGC-6.3.905-20240529154412.zip AIGC场景训练和推理代码包
-
精度校验 - AI开发平台ModelArts
4,说明softmax算子输出的结果发生了溢出(FP16的最大值为65504),需要重点分析softmax算子为什么会执行出错,也可以联系华为工程师进行分析。 图4 最大绝对误差 父主题: 推理业务昇腾迁移通用指导
-
使用PyCharm ToolKit ,提示Error occurs when accessing to OBS - AI开发平台ModelArts
r occurs when accessing to OBS。 原因分析 可能是用户无OBS权限。 解决方法 判断用户是否有OBS权限。 登录ModelArts控制台,进入“数据管理 > 数据集 ”,单击“创建数据集”,如果可以成功访问对应的OBS路径,表示用户有OBS权限。如果
-
删除按需计费的DevServer资源 - AI开发平台ModelArts
删除按需计费的DevServer资源 针对不再使用的“按需计费”弹性裸金属实例,可以删除以释放资源。停止计费相关介绍请见停止计费。 登录ModelArts管理控制台。 在左侧导航栏中,选择“专属资源池 > 弹性裸金属”,进入“弹性裸金属”列表页面。 在弹性裸金属列表中,单击操作列
-
配置授权 - AI开发平台ModelArts
秘密访问密钥(SK)。仅当授权类型为访问密钥时,需要该字段。 user_name 否 String 用户名,当user_id为all-users时,显示为所有用户。 响应参数 无 请求示例 上传授权。设置授权类型为“agency”,授权内容为“modelarts_agency”。 POST
-
VS Code连接Notebook方式介绍 - AI开发平台ModelArts
ToolKit连接Notebook(推荐) 该方式是指用户在VS Code上使用ModelArts VS Code Toolkit插件提供的登录和连接按钮,连接云上实例。 VS Code手动连接Notebook 该方式是指用户使用VS Code Remote SSH插件手工配置连接信息,连接云上实例。
-
数据标注 - AI开发平台ModelArts
中选择标签颜色,输入标签名称,例如此示例中的“yunbao”,按“Enter”键完成此标签的添加。标注完成后,左侧图片目录中此图片的状态将显示为“已标注”。 数据标注的更多说明: 您可以在图片上方或下方单击左右切换键,或者按键盘的左右方向键,选择其他图片,重复上述操作继续进行图片
-
退订资源池 - AI开发平台ModelArts
退订资源池 针对不再使用的k8s Cluster资源,可以释放资源,停止计费相关介绍请见停止计费。 专属资源池资源释放后不可恢复,请谨慎操作。 登录ModelArts管理控制台。 在左侧导航栏中,选择“专属资源池 > 弹性集群”,进入“弹性集群”列表页面。 在弹性集群列表中,单击操作列的“更多
-
精度对齐 - AI开发平台ModelArts
随机因子改为0 使用ptdbg修改register_hook方式做精度溢出检查。结果显示Tensor___add___233_forward执行时有溢出,这里使用浮点数精度的是float16,结果显示输入的最大、最小、平均值都为65504(float16的精度范围是-65504至65504),如下图所示:
-
查看算子 - AI开发平台ModelArts
类,该类包含数据特征的子类数据分析、特征工程、数据处理及其算子。详细的预置算子说明请参考预置算子说明章节。 单击算子类对象前图标,即可展开显示子类和算子。 双击数据特征类,展开其子类数据分析、特征工程、数据处理,双击数据分析类,展开其数据分析算子。 单击算子类对象前图标,即可收回其子类和算子。
-
查看AI应用的事件 - AI开发平台ModelArts
正常 模型运行时依赖未更新。 Model running dependencies not updated. - 正常 模型运行时依赖已更新。正在重新构建镜像 Model running dependencies updated. Rebuild the image. - 异常 触发SWR限流,请稍后重试。
-
如何查看训练作业日志 - AI开发平台ModelArts
通过Ctrl+F进行搜索。 系统日志过滤 图5 系统日志复选框 如果勾选了系统日志复选框,则日志中呈现系统日志和用户日志。如果去勾选,则只显示用户日志。 父主题: 查看训练作业日志
-
准备环境 - AI开发平台ModelArts
购买并开通资源 如果使用DevServer资源,请参考DevServer资源开通,购买DevServer资源,并确保机器已开通,密码已获取,能通过SSH登录,不同机器之间网络互通。 当容器需要提供服务给多个用户,或者多个用户共享使用该容器时,应限制容器访问Openstack的管理地址(169.254
-
查看授权列表 - AI开发平台ModelArts
秘密访问密钥(SK)。仅当授权类型为访问密钥时,需要该字段。 user_name String 用户名,当user_id为all-users时,显示为所有用户。 create_time Long 创建时间戳。 请求示例 查看授权列表 GET https://{endpoint}/v2/
-
权限管理 - AI开发平台ModelArts
获得除了IAM以外的所有用户权限。在获得便利的同时,由于用户的权限较大,会存在相对较大的安全风险,需谨慎使用。(对于个人用户,其默认IAM账号就已经属于admin用户组,且具备Tenant Administrator权限,无需额外操作) 当您需要限制用户操作,仅为ModelArt
-
准备环境 - AI开发平台ModelArts
购买并开通DevServer资源 请参考DevServer资源开通,购买DevServer资源,并确保机器已开通,密码已获取,能通过SSH登录,不同机器之间网络互通。 当容器需要提供服务给多个用户,或者多个用户共享使用该容器时,应限制容器访问Openstack的管理地址(169.254
-
修改服务 - AI开发平台ModelArts
支持,创建AI应用的自定义镜像需要满足创建AI应用的自定义镜像规范。 从OBS中选择元模型 不支持 不支持 方式一:通过服务管理页面修改服务信息 登录ModelArts管理控制台,在左侧菜单栏中选择“部署上线”,进入目标服务类型管理页面。 在服务列表中,单击目标服务操作列的“修改”,修改
-
部署上线 - AI开发平台ModelArts
选择AI应用及版本:自动匹配当前使用的AI应用版本,支持选择版本。 资源池:默认公共资源池。 分流:默认为100,输入值必须是0-100之间。 计算节点规格:请根据界面显示的列表,选择可用的规格,置灰的规格表示当前环境无法使用。如果公共资源池下规格为空数据,表示当前环境无公共资源。建议使用专属资源池,或者联系系统管理员创建公共资源池。