检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
可选输入，当存在该输入时，表示分离部署的服务入口在该机器。注意，在多台机器启动分离部署时，只能有一台机器存在服务入口。当存在该输入时，会生成local_ranktable_xx_host.json文件，用于在启动推理服务时确定服务入口实例。 --prefill-server-li
单击Launcher页面的“Performance Advisor”图标，界面将如下图所示 图3 Performance Adviso主页面 提交性能诊断任务 如果您的NPU性能数据存放在OBS上，Source选择OBS，Path输入OBS地址，格式如obs://bucket1/pr
可选输入，当存在该输入时，表示分离部署的服务入口在该机器。注意，在多台机器启动分离部署时，只能有一台机器存在服务入口。当存在该输入时，会生成local_ranktable_xx_host.json文件，用于在启动推理服务时确定服务入口实例。 --prefill-server-li
可选输入，当存在该输入时，表示分离部署的服务入口在该机器。注意，在多台机器启动分离部署时，只能有一台机器存在服务入口。当存在该输入时，会生成local_ranktable_xx_host.json文件，用于在启动推理服务时确定服务入口实例。 --prefill-server-li
编码 状态码说明 200 OK 请求成功 日志文件输出 为保证日志内容可以正常显示，日志信息需要打印到标准输出。 镜像启动入口 如果需要部署批量服务，镜像的启动入口文件需要为“/home/run.sh”，采用CMD设置默认启动路径，例如Dockerfile配置如下： CMD ["sh"
SDK版本说明 发布时间 版本号 说明 2023-04 1.4.18 1.4.18版本在SDK旧版本基础上优化集成，主要新增DLI Spark任务提交能力，支持服务部署到推理新版专属资源池。 支持的区域 当前支持的“region_name”包括华北-北京一（cn-north-1）、华北-
工程师添加权限。 instance_count 是 Integer 模型部署的实例数，当前限制最大实例数为128，如需使用更多的实例数，需提交工单申请。 envs 否 Map<String, String> 运行模型需要的环境变量键值对，可选填，默认为空。 表3 transformer
00步后开始保存checkpoint文件，保存成功后，手动终止训练任务。 图8 保存checkpoint文件 然后单击重建后提交。 图9 重建训练作业 提交新的任务时，注意将预下载到本地目录勾上。 图10 勾选预下载到本地目录 观察启动日志，启动会读取最新的checkpoint模
可选输入，当存在该输入时，表示分离部署的服务入口在该机器。注意，在多台机器启动分离部署时，只能有一台机器存在服务入口。当存在该输入时，会生成local_ranktable_xx_host.json文件，用于在启动推理服务时确定服务入口实例。 --prefill-server-li
查询团队标注验收任务报告 更新团队标注验收任务状态 查询团队标注任务统计信息 查询团队标注任务成员的进度信息 团队成员查询团队标注任务列表 提交验收任务的样本评审意见 团队标注审核 批量更新团队标注样本的标签 查询标注团队列表 创建标注团队 查询标注团队详情 更新标注团队 删除标注团队
存储位置：输入用户在Notebook中创建的“子目录挂载” 图3 选择SFS Turbo 作业日志选择OBS中的路径，训练作业的日志信息则保存该路径下。 最后，提交训练作业，训练完成后，请参考查看日志和性能章节查看SFT微调的日志和性能。了解更多ModelArts训练功能，可查看模型开发简介。 父主题：
存储位置：输入用户在Notebook中创建的“子目录挂载” 图3 选择SFS Turbo 作业日志选择OBS中的路径，训练作业的日志信息则保存该路径下。 最后，提交训练作业，训练完成后，请参考查看日志和性能章节查看SFT微调的日志和性能。了解更多ModelArts训练功能，可查看模型开发简介。 父主题：
"'/，缺省值为空。 flavor 是 String 实例的机器规格。实际支持规格以具体区域为准。如果您需要使用默认规格之外的其他规格，请提交工单修改规格。 spec 是 Object 实例定义，当前仅支持Notebook，如表3所示。 workspace 否 Object 工作
存储位置：输入用户在Notebook中创建的“子目录挂载” 图3 选择SFS Turbo 作业日志选择OBS中的路径，训练作业的日志信息则保存该路径下。 最后，提交训练作业，训练完成后，请参考查看日志和性能章节查看SFT微调的日志和性能。了解更多ModelArts训练功能，可查看模型开发简介。 父主题：
ToolKit中的Notebook实例SSH连接 步骤4：使用PyCharm提交训练作业至ModelArts ModelArts训练平台提供了海量的算力规格和训练优化，支持将本地调试好的代码以及之前保存的开发环境镜像直接在PyCharm中提交训练作业。 创建OBS桶并上传数据。 由于训练作业是在Mo
创建AI应用时，默认“可见范围”是“私密”，且“仅自己可见”。创建完成后，支持修改可见范围。 “公开”：表示公开资产，所有用户都可以查看该资产。 当选择公开AI应用，系统会自动提交资产公开申请，审核通过之前资产还是私密状态，审核通过后就会变成公开状态。 “私密”：表示仅部分用户可见。 “仅自己可见”：默认状态，表示仅AI应用创建者可见该资产。
详情页，单击“修改”，进入修改在线服务页面。 图3 修改服务 开启APP认证开关，选择自己创建的APP应用名称，单击“下一步”，然后单击“提交”即可保存修改。 图4 开启APP认证 AppCode认证预测。 在部署服务详情中单击“调用指南”，第二行的API接口公网地址即为APP认
df -hT命令查看空间大小，排查是否因空间不足导致，可在创建Notebook时使用EVS挂载。 如果代码写作正确，仍然无法解决该问题，请提交工单，由专业工程师为您分析并解决问题。 父主题： MoXing
ascend-snt9b。 图3 选择资源池规格 在OBS中新建一个log目录，作业日志选择OBS中的该路径，训练作业的日志信息则保存该路径下。 最后，提交训练作业，训练完成后，请参考查看日志和性能章节查看SFT微调的日志和性能。了解更多ModelArts训练功能，可查看模型开发简介。 父主题：
ascend-snt9b。 图3 选择资源池规格 在OBS中新建一个log目录，作业日志选择OBS中的该路径，训练作业的日志信息则保存该路径下。 最后，提交训练作业，训练完成后，请参考查看日志和性能章节查看SFT微调的日志和性能。了解更多ModelArts训练功能，可查看模型开发简介。 父主题：
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
