检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
model_description_url String 模型描述链接。 parameter String 模型的运行参数。当为自定义镜像训练作业的时候,此参数为容器环境变量。该样例请参考请求示例。 create_time Long 模型的创建时间。 engine_id Long 模型的引擎ID。 engine_name
parameter 否 Array<Object> 训练作业的运行参数,为“label-value”格式;当为自定义镜像训练作业的时候,此参数为容器环境变量。该样例请参考表4。 spec_id 是 Long 训练作业选择的资源规格ID。请从查询作业资源规格接口获取资源规格ID。 data_url
过SSH登录,不同机器之间网络互通。 购买DevServer资源时如果无可选资源规格,需要联系华为云技术支持申请开通。 当容器需要提供服务给多个用户,或者多个用户共享使用该容器时,应限制容器访问Openstack的管理地址(169.254.169.254),以防止容器获取宿主机的
3 # 设置容器镜像默认用户与工作目录 USER ma-user WORKDIR /home/ma-user # 设置容器镜像预置环境变量 # 请务必设置 PYTHONUNBUFFERED=1, 以免日志丢失 ENV PATH=/home/ma-user/miniconda3/bin:$PATH
--machine_rank ${VC_TASK_INDEX:-0} fi 部分环境变量在Notebook环境中不存在,因此需要提供默认值。 将代码放到OBS上,然后通过OBS将代码传至SFS相应目录中。 在本机机器上运行,通
orch-1.0.0/bin/python 如果路径为~/anaconda3/envs/Pytorch-1.0.0/bin/python,把~替换为/home/ma-user即可。 Sync folders: 需要配置本地的工程目录文件同步到云上开发环境中的某个目录,推荐配置为/
model_name:评测模型名称,不需要与启动服务时的模型参数保持一致。 benchmark_type:作为一个保存log结果中的一个变量名,默认选eval。 参考命令: vllm_path=vllm host=0.0.0.0 service_port=8080 max_out_len=16
理部署生产环境,AI模型开发完成后,在Standard中可以纳管AI模型并快速部署为推理服务,您可以进行在线推理预测,也可以通过调用API把AI推理能力集成到自己的IT平台。具体请参见推理部署使用场景。 Standard使用流程说明 ModelArts Standard平台提供了
id+item_version_id创建作业时,无需填写。 environments Map<String,String> 训练作业的环境变量。格式:"key":"value",无需填写。 表9 Parameter 参数 参数类型 描述 name String 参数名称。 value
/usr/local/Ascend /usr/local/Ascend # 设置容器镜像预置环境变量 # 请务必设置 CANN 相关环境变量 # 请务必设置 Ascend Driver 相关环境变量 # 请务必设置 PYTHONUNBUFFERED=1, 以免日志丢失 ENV PATH=
ModelArts底层采用容器技术,自定义镜像指的是用户自行制作容器镜像并在ModelArts上运行。自定义镜像功能支持自由文本形式的命令行参数和环境变量,灵活性比较高,便于支持任意计算引擎的作业启动需求。 发布区域:华北-北京一、华北-北京四、华北-乌兰察布一、华东-上海一、华南-广州、西
过SSH登录,不同机器之间网络互通。 购买DevServer资源时如果无可选资源规格,需要联系华为云技术支持申请开通。 当容器需要提供服务给多个用户,或者多个用户共享使用该容器时,应限制容器访问Openstack的管理地址(169.254.169.254),以防止容器获取宿主机的
id+item_version_id创建作业时,无需填写。 environments Map<String,String> 训练作业的环境变量。格式:"key":"value",无需填写。 表7 Parameter 参数 参数类型 描述 name String 参数名称。 value
Array<Object> 训练作业的运行参数,为“label-value”格式。该样例请参考请求示例;当为自定义镜像训练作业的时候,此参数为容器环境变量。表5 data_url 否 String 训练作业需要的数据集OBS路径URL,默认为空。如:“/usr/data/”。不可与data_
txt”的内容如下所示。 手感很好,反应速度很快,不知道以后怎样 三个月前买了一个用的非常好果断把旧手机替换下来尤其在待机方面 没充一会电源怎么也会发热呢音量健不好用回弹不好 算是给自己的父亲节礼物吧物流很快下单不到24小时就到货了耳机更赞有些低音炮的感觉入耳很紧不会掉棒棒哒 标
--input data_path2=obs://bucket/data2 --env-variables String 否 训练时传入的环境变量,如果需要指定多个参数,可以使用--env-variables ENV1=env1 --env-variables ENV2=env2 --parameters
模式下,当前字段不生效。 environments Array of Map<String,String> objects 训练作业的环境变量。格式:"key":"value",无需填写。 表11 Parameter 参数 参数类型 描述 name String 参数名称。 value
id+item_version_id创建作业时,无需填写。 environments Map<String,String> 训练作业的环境变量。格式:"key":"value",无需填写。 表7 Parameter 参数 参数类型 描述 name String 参数名称。 value
<NODE_RANK=0> sh demo.sh localhost 1 0 单机如需指定训练卡数训练可使用ASCEND_RT_VISIBLE_DEVICES变量指定挂载到容器里面的卡的索引,使用执行命令如下: ASCEND_RT_VISIBLE_DEVICES=0,1,2,3 sh demo.sh
过编辑 1_preprocess_data.sh 、2_convert_mg_hf.sh 中的具体python指令运行。本代码中有许多环境变量的设置,在下面的指导步骤中,会展开进行详细的解释。 若用户希望自定义参数进行训练,可直接编辑对应模型的训练脚本,可编辑参数以及详细介绍如下。以