检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
表3 请求Body参数 参数 是否必选 参数类型 描述 schedule 否 Array of Schedule objects 服务调度配置，仅在线服务可配置，默认不使用，服务长期运行。 description 否 String 服务描述，不超过100个字符，不能包含字符有!
昇腾上使用int8对权重进行打包，在线转换会增加启动时间，可以提前对权重进行转换以减少启动时间，转换步骤如下： 进入llm_tools/AutoAWQ代码目录下执行以下脚本： 执行时间预计10分钟。执行完成后会将权重路径下的原始权重替换成转换后的权重。
枚举值如下： dataset：数据集 obs：OBS swr：SWR model_list：AI应用列表 label_task：标注任务 service：在线服务 conditions 否 Array of Constraint objects 数据约束条件。
obs_url String 训练作业需要的数据集OBS路径URL，modelarts会通过数据集ID和数据集版本ID自动解析生成。如：“/usr/data/”。 表19 obs 参数 参数类型 描述 obs_url String 训练作业需要的数据集OBS路径URL。
obs_url String 训练作业需要的数据集OBS路径URL，ModelArts会通过数据集ID和数据集版本ID自动解析生成。如：“/usr/data/”。 表19 obs 参数 参数类型 描述 obs_url String 训练作业需要的数据集OBS路径URL。
表13 推理部署基础委托授权 业务场景 依赖的服务 委托授权项 说明 在线服务 LTS lts:groups:create lts:groups:list lts:topics:create lts:topics:delete lts:topics:list 建议配置，在线服务配置
A high backlog wait can cause poor NFS performance and slow system response times. ms ≥0 NA NA NA NFS解析文件句柄操作往返时间 ma_node_mountstats_lookup_rtt
否 str apis 模型所有的apis入参出参信息（选填），从配置文件中解析出来。 否 str initial_config 模型配置相关数据。
20 在对话框中输入问题，查看返回结果，在线体验对话问答。 图8 体验模型服务 后续操作 如果不再需要使用此模型服务，建议清除相关资源，避免产生不必要的费用。
在推理生产环境中部署推理服务 介绍如何创建AI应用，部署模型并启动推理服务，在线预测服务。 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.907）
枚举值如下： dataset：数据集 obs：OBS swr：SWR model_list：AI应用列表 label_task：标注任务 service：在线服务 conditions 否 Array of Constraint objects 数据约束条件。
或者在ModelArts管理控制台，选择“部署上线>在线服务”，找到部署的推理服务，单击服务名称，进入服务详情页。单击“预测”，右边可查看预测结果。 图6 预测样例图 图7 预测结果 父主题： 使用Workflow实现低代码AI开发
枚举值如下： dataset：数据集 obs：OBS swr：SWR model_list：AI应用列表 label_task：标注任务 service：在线服务 conditions 否 Array of Constraint objects 数据约束条件。
枚举值如下： dataset：数据集 obs：OBS swr：SWR model_list：AI应用列表 label_task：标注任务 service：在线服务 conditions 否 Array of Constraint objects 数据约束条件。
obs_url String 训练作业需要的数据集OBS路径URL，ModelArts会通过数据集ID和数据集版本ID自动解析生成。如：“/usr/data/”。 表21 obs 参数 参数类型 描述 obs_url String 训练作业需要的数据集OBS路径URL。
--image-feature-size：图片输入解析维度大小；llava-v1.6图片输入维度与image-feature-size关系映射表见git；计算原理如下： 最小处理单元为14*14 【llava1.5】 336*336图像 ==(336/14=24)>> 24*24=
它提供了一组C函数，用于读取、修改和创建ELF文件，而NVIDIA驱动程序需要使用这些函数来解析当前正在运行的内核和其他相关信息。 安装过程中的提示均选OK或YES，安装好后执行reboot重启机器，再次登录后执行命令查看GPU卡信息。
A high backlog wait can cause poor NFS performance and slow system response times. ms ≥0 NA NA NA NFS解析文件句柄操作往返时间 ma_node_mountstats_lookup_rtt
obs_url String 训练作业需要的数据集OBS路径URL，ModelArts会通过数据集ID和数据集版本ID自动解析生成。如：“/usr/data/”。 表20 obs 参数 参数类型 描述 obs_url String 训练作业需要的数据集OBS路径URL。
obs_url String 训练作业需要的数据集OBS路径URL，ModelArts会通过数据集ID和数据集版本ID自动解析生成。如：“/usr/data/”。 表21 obs 参数 参数类型 描述 obs_url String 训练作业需要的数据集OBS路径URL。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
