检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Gallery，单击右上角“我的Gallery”进入我的Gallery页面。 单击左上方“创建资产”，选择“镜像”。 在“创建镜像”弹窗中配置参数，单击“创建”。 表1 创建镜像 参数名称 说明 英文名称 必填项，镜像的英文名称。 如果没有填写“中文名称”，则资产发布后，在镜像页签上会显示该“英文名称”。
判断是否存在。 使用当前账户登录OBS管理控制台，去查找对应的OBS桶、文件夹、文件是否存在。 通过接口判断路径是否存在。在代码中执行如下命令，检查路径是否存在。 import moxing as mox mox.file.exists('obs://obs-test/ModelArts/examples/')
户使用该资产。 在数据集详情页，选择“数据集介绍”页签，单击右侧“编辑介绍”。 编辑数据集基础设置和数据集描述。 表1 数据集介绍的参数说明 参数名称 说明 基础设置 中文名称 显示数据集的名称，不可编辑。 许可证 数据集遵循的使用许可协议，根据业务需求选择合适的许可证类型。 语言
在IDE菜单栏选择“ModelArts>Training Job>New...”创建训练作业。 图26 创建训练作业 创建训练作业界面各参数名称及含义如下表所示。 表1 参数名称及含义 参数名称 含义 JobName 训练作业的名称，默认为当前的时间。 AI Engine 训练引擎，这里选择“mindspore_1
在后续训练步骤中，训练作业启动命令中包含sh scripts/install.sh，该命令用于git clone完整的代码包和安装必要的依赖包，每次启动训练作业时会执行该命令安装。 您可以在Notebook中导入完代码之后，在Notebook运行sh scripts/install.sh命令提前下载完
container_ip参数，4台机器上的rank_table_file.json文件内容一致。在步骤三：创建rank_table_file.json步骤中会用到。 device_ip：当前卡的IP地址，涉及到4台机器共32张卡。device_ip查询命令 for i in {0
iteration)*1000，其global batch size（GBS）、seq_len（SEQ_LEN）为训练时设置的参数，具体参数查看表1。 loss收敛情况：日志里存在lm loss参数 ，lm loss参数随着训练迭代周期持续性减小，并逐渐趋于稳定平缓。也可以使用可视化工具TrainingLogPa
RVAL+1 SAVE_TOTAL_LIMIT 0 用于控制权重版本保存次数。 当参数不设置或<=0时，不会触发效果。 参数值需<=TRAIN_ITERS//SAVE_INTERVAL+1 当参数值>1时，保存模型版本次数与SAVE_TOTAL_LIMIT的值一致。 SEED 1234
精度选择。 精度选择需要在模型转换阶段进行配置，执行converter_lite命令时通过--configFile参数指定配置文件路径，配置文件通过precision_mode参数指定精度模式。可选的参数有“enforce_fp32”，“preferred_fp32”，“enfor
中获得。 表2 update_job_configs请求参数说明 参数 是否必选 参数类型 描述 description 是 String 需要更改的训练作业的描述信息。 无成功响应参数 表3 调用训练接口失败响应参数 参数 类型 描述 error_msg String 调用失败时的错误信息，调用成功时无此字段。
worker-0","worker-1"，依次类推。 表3 返回参数说明 参数 参数类型 描述 metrics Array of objects 运行指标。 表4 metrics 参数 参数类型 描述 metric String 运行指标，可选值如下： cpuUsage（CPU使
sh启动训练时，任务前容器中执行以下命令： # 历史版本demo.sh启动,： export PYTORCH_NPU_ALLOC_CONF = expandable_segments:False 使用ascendfactory-cli方式启动训练时，命令行参数新加以下环境变量： PYTORCH_NPU_ALLOC_CONF
py启动服务器，app.py请参考https示例 python app.py 除了按上述要求设置启动命令，您也可以在镜像中自定义启动命令，在创建模型时填写与您镜像中相同的启动命令。 提供的服务可使用HTTPS/HTTP协议和监听的容器端口，端口和协议可根据镜像实际使用情况自行填写
中，该参数为Notebook中权重路径；若服务部署在生产环境中，该参数为本地模型权重路径。 --served-model-name：仅在以openai接口启动服务时需要该参数。若服务部署在Notebook中，该参数为Notebook中权重路径；若服务部署在生产环境中，该参数为服务启动脚本run_vllm
/Linux等服务器）上登录Gallery CLI配置工具后，通过命令“gallery-cli download”可以从AI Gallery仓库下载资源。 命令说明 登录Gallery CLI配置工具后，使用命令“gallery-cli download --help”可以获取Gallery
训练作业”，默认进入“训练作业”列表。单击“创建训练作业”进入创建训练作业页面。 在“创建训练作业”页面，填写相关参数信息，然后单击“提交”。 创建方式：选择“自定义算法”。 启动方式：选择“自定义”。 镜像：选择上传的自定义镜像。 启动命令： cd ${MA_JOB_DIR}/demo && python main
Step7 推理请求 使用命令测试推理服务是否正常启动。服务启动命令中的参数设置请参见表1。 方式一：通过OpenAI服务API接口启动服务使用以下推理测试命令。${docker_ip}替换为实际宿主机的IP地址。如果启动服务未添加served-model-name参数，${contai
远程登录”，并在控制台发送后续步骤中的远程命令。 注意：创建的ECS虚拟机使用ARM镜像创建。 图1 购买ECS 安装Docker。 检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。 yum install
arrier_timeout参数，修改后如图1所示。 #修改前 barrier_timeout=self._exit_barrier_timeout #修改后 barrier_timeout=3000 图1 修改后的barrier_timeout参数 问题5：训练过程中报"ModuleNotFoundError:
get_model_list打印参数说明 参数 参数类型 描述 total_count Integer 不分页的情况下，符合查询条件的总模型数量。 count Integer 模型数量。 models model结构数组 模型元数据信息。 表3 model结构 参数 参数类型 描述 model_id
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
