检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
如果推理需要使用npu加速图片预处理,需要安装torchvision_npu,可放到镜像制作脚本里面。
非模板参数 apis 否 Array of CreateModelRequestModelApis objects 模型所有的apis入参出参信息,从配置文件中解析出来的,可不填。
--image-feature-size:图片输入解析维度大小;llava-v1.6图片输入维度与image-feature-size关系映射表见git;计算原理如下: 最小处理单元为14*14 【llava1.5】 336*336图像 ==(336/14=24)>> 24*24=
18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53
3B √ x x x x Llama-3.2-3B-Instruct · 模型库 (modelscope.cn) 52 llava-1.5-7b √ x x x x https://huggingface.co/llava-hf/llava-1.5-7b-hf/tree/main 53
说明: 日志文件中的迭代次数、LOSS和吞吐数据必须按照“迭代次数|loss|吞吐”格式存放,否则AI Gallery会数据解析失败,导致“吞吐”和“训练LOSS”曲线异常。
--image-feature-size:图片输入解析维度大小;llava-v1.6图片输入维度与image-feature-size关系映射表见git;计算原理如下: 最小处理单元为14*14 【llava1.5】 336*336图像 ==(336/14=24)>> 24*24=
A high backlog wait can cause poor NFS performance and slow system response times. ms ≥0 NA NA NA NFS解析文件句柄操作往返时间 ma_node_mountstats_lookup_rtt
obs_url String 训练作业需要的数据集OBS路径URL,ModelArts会通过数据集ID和数据集版本ID自动解析生成。如:“/usr/data/”。 表20 obs 参数 参数类型 描述 obs_url String 训练作业需要的数据集OBS路径URL。
可以按照实例指定“data_url”和“train_url”,在代码中解析超参分别指定训练所需要的数据文件本地路径和训练生成的模型输出本地路径。 “job_config”字段下的“parameters_customization”表示是否支持自定义超参,此处填true。
表53 JobVolume 参数 参数类型 描述 nfs Nfs object nfs方式的挂载卷。 表54 Nfs 参数 参数类型 描述 nfs_server_path String nfs服务端路径,如:“10.10.10.10:/example/path”。
--image-feature-size:图片输入解析维度大小;llava-v1.6图片输入维度与image-feature-size关系映射表见git;计算原理如下: 最小处理单元为14*14 【llava1.5】 336*336图像 ==(336/14=24)>> 24*24=
表53 JobEndpointsReq 参数 是否必选 参数类型 描述 ssh 否 SSHReq object SSH连接信息。