检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
ModelArts昇腾迁移调优工具总览 ModelArts集成了多个昇腾迁移调优工具，方便您在ModelArts平台环境中进行训练推理迁移、精度调试、性能调优等工作，您可在下表中查看当前ModelArts支持的昇腾迁移调优工具及对应指导。 表格中的部分工具已集成到ModelArt
Lite Cluster资源开通 集群资源开通流程 开通集群资源过程中用户侧需要完成的任务流程如下图所示。 图1 用户侧任务流程 表1 Cluster资源开通流程 任务 说明 Step1 申请开通资源规格 当前部分规格为受限购买，需要提前联系客户经理申请开通资源规格，预计1~3个
//docs.vllm.ai/en/latest/getting_started/quickstart.html。 以下服务启动介绍的是在线推理方式，离线推理请参见https://docs.vllm.ai/en/latest/getting_started/quickstart
干个vllm全量实例，使用空格隔开，每个vllm实例的数字表示使用的昇腾卡device_id，使用多个昇腾卡时，device_id之间使用英文逗号`,`分隔开。当存在该输入时，会生成对应全量实例个数的local_ranktable_xx_yy.json文件，用于在启动推理服务时确定全量实例。
选择是，则在使用该算法创建训练作业时，不支持在创建训练作业页面删除该超参。 描述 填入超参的描述说明。 超参描述支持大小写字母、中文、数字、空格、中划线、下划线、中英文逗号和中英文句号。 支持的策略。 ModelArts Standard支持用户使用自动化搜索功能。自动化搜索功能在零代码修改的前提下，自动找到最
i18n_description 参数 参数类型 描述 language String 国际语种，可选值如下： zh-cn（中文） en-us（英文） description String 国际化语种的描述信息。 表8 inputs 参数 参数类型 描述 name String 数据输入通道名称。
//docs.vllm.ai/en/latest/getting_started/quickstart.html。 以下服务启动介绍的是在线推理方式，离线推理请参见https://docs.vllm.ai/en/latest/getting_started/quickstart
doc_url String 文档http(s)链接。 doc_name String 文档名称，支持1-48位可见字符（含中文），只能以英文大小写字母或者中文字符开头，名称可以包含字母、中文、数字、中划线、下划线。 表5 ModelHealth 参数 参数类型 描述 protocol
i18n_description 参数 参数类型 描述 language String 国际语种，可选值如下： zh-cn（中文） en-us（英文） description String 国际化语种的描述信息。 表10 inputs 参数 参数类型 描述 name String 数据输入通道名称。
--outputFile=./mindirs --configFile=./configs/unet.ini 最多支持100档配置，每一档通过英文逗号分隔。 如果用户设置的dim数值过大或档位过多，可能会导致模型编译失败，此时建议用户减少档位或调低档位数值。 如果用户设置了动态维度，
i18n_description 参数 参数类型 描述 language String 国际语种，可选值如下： zh-cn（中文） en-us（英文） description String 国际化语种的描述信息。 表25 inputs 参数 参数类型 描述 name String 数据输入通道名称。
i18n_description 参数 参数类型 描述 language String 国际语种，可选值如下： zh-cn（中文） en-us（英文） description String 国际化语种的描述信息。 表25 inputs 参数 参数类型 描述 name String 数据输入通道名称。
i18n_description 参数 是否必选 参数类型 描述 language 否 String 国际语种，可选值如下： zh-cn（中文） en-us（英文） description 否 String 国际化语种的描述信息。 表26 Input 参数 是否必选 参数类型 描述 name 是 String
i18n_description 参数 参数类型 描述 language String 国际语种，可选值如下： zh-cn（中文） en-us（英文） description String 国际化语种的描述信息。 表12 policies 参数 参数类型 描述 auto_search auto_search
i18n_description 参数 参数类型 描述 language String 国际语种，可选值如下： zh-cn（中文） en-us（英文） description String 国际化语种的描述信息。 表11 policies 参数 参数类型 描述 auto_search auto_search
i18n_description 参数 参数类型 描述 language String 国际语种，可选值如下： zh-cn（中文） en-us（英文） description String 国际化语种的描述信息。 表14 policies 参数 参数类型 描述 auto_search auto_search
务，并按照global rank_table中的全量实例、增量实例的顺序，对全量推理实例、增量推理实例启动的端口号进行排序，端口之间用,（英文逗号）分隔开作为该环境变量的输入。 USE_OPENAI：仅在服务入口实例生效，用于配置api-server服务是否使用openai服务，
务，并按照global rank_table中的全量实例、增量实例的顺序，对全量推理实例、增量推理实例启动的端口号进行排序，端口之间用,（英文逗号）分隔开作为该环境变量的输入。 USE_OPENAI：仅在服务入口实例生效，用于配置api-server服务是否使用openai服务，
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
