检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
训练任务。 静态挂载 动态挂载 SFS Turbo 适用于海量小文件业务场景。 提供posix协议的文件系统； 需要和资源池在同一个VPC下或VPC互通； 价格较高。 静态挂载 动态挂载：不支持 SFS 适用于多读多写场景的持久化存储。 适用大容量扩展以及成本敏感型的业务场景，包
conf sysctl -p | grep net.ipv4.ip_forward Step4 获取训练镜像 请确保在正确的Region下获取镜像。建议使用官方提供的镜像部署训练服务。镜像地址{image_url}请参见表1。 docker pull {image_url} Step5
通常为了获取更好的推理性能，推荐使用方式2的离线推理。下文将以Diffusers img2img onnx pipeline为示例来讲解如何进行离线推理模式下的昇腾迁移。迁移的整体流程如下图所示： 图1 迁移流程图 父主题： 基于AIGC模型的GPU推理业务迁移至昇腾指导
数据预处理中的环境变量 环境变量 示例 参数说明 RUN_TYPE pretrain、sft、lora 数据预处理区分： 预训练场景下数据预处理，默认参数：pretrain 微调场景下数据预处理，默认：sft / lora ORIGINAL_TRAIN_DATA_PATH /home/ma-use
链的集成，目标为不同类型AI开发、探索、教学用户，提供更好云化AI开发体验。 ModelArts Standard Notebook云上云下，无缝协同 代码开发与调测。云化JupyterLab使用，本地IDE+ModelArts插件远程开发能力，贴近开发人员使用习惯 云上开发环境
个地址可以相同。 容器不能挂载到/home/ma-user目录，此目录为ma-user用户家目录。如果容器挂载到/home/ma-user下，拉起容器时会与基础镜像冲突，导致基础镜像不可用。 driver及npu-smi需同时挂载至容器。 ${image_name} 代表镜像地址。
添加标签：单击“添加标签”可增加多个标签。 设置标签颜色：“物体检测”和“图像分割”类型标注作业需设置此参数。在每个标签右侧的标签颜色区域下，可在色板中选择颜色，或者直接输入十六进制颜色码进行设置。 设置标签属性：针对“物体检测”类型标注作业，在设置完标签颜色后，可在右侧单击加号
工作空间ID，默认为“0”。 表2 get_model_list打印参数说明 参数 参数类型 描述 total_count Integer 不分页的情况下，符合查询条件的总模型数量。 count Integer 模型数量。 models model结构数组 模型元数据信息。 表3 model结构
conf sysctl -p | grep net.ipv4.ip_forward Step4 获取训练镜像 请确保在正确的Region下获取镜像。建议使用官方提供的镜像部署训练服务。镜像地址{image_url}请参见表1。 docker pull {image_url} Step5
conf sysctl -p | grep net.ipv4.ip_forward Step4 获取训练镜像 请确保在正确的Region下获取镜像。建议使用官方提供的镜像部署训练服务。镜像地址{image_url}请参见表1。 docker pull {image_url} Step5
conf sysctl -p | grep net.ipv4.ip_forward Step4 获取训练镜像 请确保在正确的Region下获取镜像。建议使用官方提供的镜像部署训练服务。镜像地址{image_url}请参见表1。 docker pull {image_url} Step5
%s", self.model_outputs) def _preprocess(self, data): # https两种请求形式 # 1. form-data文件格式的请求对应：data = {"请求key值":{"文件名":<文件io>}}
Turbo缓存中，并可被下游业务环节继续读取并处理，结果数据可以异步方式导出到关联的OBS对象存储中进行长期低成本存储，从而加速训练场景下加速OBS对象存储中的数据访问 ModelArts Standard模型训练提供便捷的作业管理能力，提升用户模型训练的开发效率 提供算法资产
conf sysctl -p | grep net.ipv4.ip_forward Step4 获取训练镜像 请确保在正确的Region下获取镜像。建议使用官方提供的镜像部署训练服务。镜像地址{image_url}请参见表1。 docker pull {image_url} Step5
未购买资源包，在按需计费模式下账户的余额不足。 欠费影响 包年/包月 对于包年/包月专属资源池，用户已经预先支付了资源费用，因此在账户出现欠费的情况下，已有的包年/包月专属资源池仍可正常使用。然而，对于涉及费用的操作，如将数据存储至OBS或EVS、续费订单等，用户将无法正常进行。 按需计费
存储位置：输入用户在Notebook中创建的“子目录挂载” 图3 选择SFS Turbo 作业日志选择OBS中的路径，训练作业的日志信息则保存该路径下。 最后，提交训练作业，训练完成后，请参考查看日志和性能章节查看SFT微调的日志和性能。了解更多ModelArts训练功能，可查看模型开发简介。
返回多条正常结果。 约束与限制： 不使用beam_search场景下，n取值建议为1≤n≤10。如果n>1时，必须确保不使用greedy_sample采样。也就是top_k > 1; temperature > 0。 使用beam_search场景下，n取值建议为1<n≤10。如果n=1，会导致推理请求失败。
多机启动 多台机器执行训练启动命令如下。进入代码目录 /home/ma-user/ws/llm_train/AscendFactory 下执行启动脚本。 启动训练脚本可使用以下两种启动命令，二选一即可，其中区别如下： 方法一：传递参数形式：将主节点IP地址、节点个数、节点RANK的参数传递至运行的脚本中执行。
String 难例筛选任务ID。 task_status String 任务状态。 time Long 执行时间。 update_at Long 更新时间。 表17 SampleLabels 参数 参数类型 描述 labels Array of SampleLabel objects 样
在容器/home/ma-user下运行启动推理脚本infer.py，NPU推理脚本内容参见附录1：在NPU上运行infer.py脚本内容。 python infer.py 运行结束后，会打印所有图片预测的平均时延。 NPU上运行后，结果会保存在/home/ma-user/result.txt下。 如果在
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
