检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
能介绍。 永久保存日志 选择CPU或者GPU资源时,支持选择是否关闭“永久保存日志”开关。 开关打开(默认打开):表示永久保存日志,此时必须配置“作业日志路径”,系统会将训练日志永久保存至指定的OBS路径。 开关关闭:表示不永久保存日志,则训练日志会在30天后会被清理。可以在作业详情页下载全部日志至本地。
750 -R /home/ma-user/.vscode-server/bin/$commitId 关闭VS Code,重新从Notebook实例列表页面打开VS Code(注意:需要关闭本地vscode,不然可能会报多个安装进程正在运行中)。 父主题: VS Code连接开发环境失败故障处理
开发环境提供的预置镜像版本是依据用户反馈和版本稳定性决定的。当用户的功能开发基于ModelArts提供的版本能够满足的时候,建议用户使用预置镜像,这些镜像经过充分的功能验证,并且已经预置了很多常用的安装包,用户无需花费过多的时间来配置环境即可使用。 开发环境提供的预置镜像主要包含: 常用预置包,基于标准的Co
变化时,模型的延迟和吞吐。该场景能模拟实际业务下动态的发送不同长度请求,能评估推理框架在实际业务中能支持的并发数。 性能benchmark验证使用到的脚本存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools/llm_evaluation目录下。 代码目录如下:
数据读入的速度跟不上模型迭代的速度。 处理方法 减少预处理shuffle操作。 dataset = dataset.shuffle(buffer_size=x) 关闭数据预处理开关,可能会影响性能。 NPURunConfig(enable_data_pre_proc=false) 建议与总结 在创建训练
性,GPU和NPU(Ascend)硬件由于存在一定细小的差别,很难确保完全一致,较难达成生成图片100%匹配,建议通过盲测的方式对效果进行验证。 模型精度有问题怎么办? 首先考虑通过FP16的方式进行转换和执行,再通过精度诊断工具来进行分析,更进一步可以到华为云官网上提交工单处理。
在ModelArts服务页面的左侧导航选择“权限管理 ”,单击“添加授权”。授权对象选择子账号,在已有委托中选择新建的委托,然后单击“创建”。 验证权限是否配置成功。 登录子账号,如果用户能跑通在开发环境中构建并调试推理镜像的案例,在Notebook中制作自定义镜像,然后将调试完成的镜
去IAM修改委托权限”。 在新页面中,单击“授权记录 > 授权”,搜索“IAM ReadOnlyAccess”,勾选后单击“下一步”并单击“确认”。 验证权限是否配置成功。 登录子用户账号,在创建训练作业/创建Notebook时,仅能看到配置的SFS Turbo文件夹,则表示权限配置成功。 父主题:
{\"label\":\"eval_frequence\",\"value\":\"1\",\"placeholder_cn\":\"对模型做验证的频率,默认为每个epoch都做\",\"placeholder_en\":\"\",\"required\":true},{\"label\":\"mom\"
750 -R /home/ma-user/.vscode-server/bin/$commitId 关闭VS Code,重新从Notebook实例列表页面打开VS Code(注意:需要关闭本地vscode,不然可能会报多个安装进程正在运行中)。 父主题: VS Code连接开发环境失败常见问题
750 -R /home/ma-user/.vscode-server/bin/$commitId 关闭VS Code,重新从Notebook实例列表页面打开VS Code(注意:需要关闭本地vscode,不然可能会报多个安装进程正在运行中)。 父主题: VS Code连接开发环境失败故障处理
变化时,模型的延迟和吞吐。该场景能模拟实际业务下动态的发送不同长度请求,能评估推理框架在实际业务中能支持的并发数。 性能benchmark验证使用到的脚本存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools/llm_evaluation目录下。 代码目录如下:
影响。 否,停用内容审核服务,将不会审核模型推理中的输入输出,模型服务可能会有违规风险,请谨慎关闭。 关闭“内容审核”开关,需要在弹窗中确认是否停用内容审核服务,勾选后,单击“确定”关闭。 复制调用示例,修改参数后用于业务环境调用模型服务API。 示例代码如下所示: 1 2
选择是否打开“永久保存日志”开关。 开关关闭(默认关闭):表示不永久保存日志,则任务日志会在30天后会被清理。可以在任务详情页下载全部日志至本地。 开关打开:表示永久保存日志,此时必须配置“日志路径”,系统会将任务日志永久保存至指定的OBS路径。 事件通知 选择是否打开“事件通知”开关。 开关关闭(默认关闭):表示不启用消息通知服务。
750 -R /home/ma-user/.vscode-server/bin/$commitId 关闭VS Code,重新从Notebook实例列表页面打开VS Code(注意:需要关闭本地vscode,不然可能会报多个安装进程正在运行中)。 父主题: VS Code使用技巧
确保此OBS桶的加密功能关闭。如果此OBS桶为加密桶,可单击“默认加密”选项进行修改。 图1 OBS桶是否加密 确保归档数据直读功能关闭 进入OBS管理控制台,选择当前自动学习项目使用的OBS桶,单击桶名称进入概览页。 确保此OBS桶的归档数据直读功能关闭。如果此功能开启,可单击“归档数据直读”选项进行修改。
反之,如果显示0KB,则表示远端未上传。请参考Notebook如何离线安装VS Code Server离线下载VS Code插件后,再执行2。 图2 远端已上传 关闭VS Code所有窗口,回到ModelArts控制台Notebook实例界面,再次单击实例“操作”列的上的“更多>VS Code接入”按钮。
#查询nginx进程 ps -ef |grep nginx #关闭所有nginx相关进程 kill -9 {进程ID} #运行run.sh脚本 sh run.sh 也可以执行pkill nginx命令直接关闭所有nginx进程。 #关闭所有nginx进程 pkill nginx #运行run
ok使用。 操作流程 创建Notebook。 在Notebook中制作自定义镜像。 注册镜像到ModelArts。 创建Notebook并验证新镜像。 创建Notebook 登录ModelArts控制台,进入“开发空间>Notebook”,单击“创建”,进入创建Notebook页
如果显示WRONG_VERSION_NUMBER等关键字,检查自定义镜像的端口和ws跟wss的配置是否正确。 连接成功后结果如下: 图5 连接成功 优先验证自定义镜像提供的websocket服务的情况,不同的工具实现的websocket服务会有不同,可能出现连接建立后维持不住,可能出现请求一次