检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Arts会上传训练容器中的日志文件至“作业日志路径” 参数设置的OBS目录中。在作业详情页可以获取“作业日志路径”，单击OBS地址可以直接跳转到OBS控制台查看日志。 图3 日志存放路径 您可以通过ma-pre-start脚本修改默认环境变量配置。 ASCEND_GLOBAL_LOG_LEVEL=3
SampleLabels objects 视频在线服务推理结果。 service_id String 在线服务ID。 service_name String 在线服务名称。 service_resource String 用户绑定的在线服务资源ID。 total_sample_count
如果需要部署量化模型，需在Notebook中进行模型权重转换后再部署推理服务。 在推理生产环境中部署推理服务 介绍如何在创建AI应用，部署并启动推理服务，在线预测在线服务。 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.908）
此时如果显示需要配置委托，请联系您的账号管理员为您配置委托权限，详细操作参考配置ModelaArts委托。 在弹性裸金属列表中，单击的“退订”，跳转至“退订资源”页面。 根据界面提示，确认需要退订的资源，并选择退订原因。 图2 退订资源 确认退订信息无误后，勾选“我已确认……”和“资源退订后……”提示信息。
弹性集群Cluster”页面中的Standard资源池页签中，单击包年包月的资源池名称，进入详情页，在右上角选择“更多 > 开通自动续费”，按照页面提示跳转到费用中心进行续费操作。 在ModelArts控制台修改自动续费 包年/包月的Standard专属资源池和弹性集群Lite Cluster资源池在购买成功后支持修改自动续费。
String 服务ID。 表2 Query参数 参数 是否必选 参数类型 描述 update_time 否 Number 待过滤的更新时间，查询在线服务更新日志可使用，可准确过滤出某次更新任务；默认不过滤。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token
附录：config.json文件 config.json文件用于推理服务启动时，需要修改以下参数，2台机器的每个容器中config.json文件内容一致。 ipAddress：主节点IP地址，即rank_table_file.json文件中的server_id。 manageme
String 用户在运营平台选择的折扣信息。 os.modelarts/service.console.url 否 String 订购订单支付完成后跳转的url地址。 os.modelarts/order.id 否 String 订单id，包周期资源创建或者计费模式变更的时候该参数必需。 表5
Timeout”时请参考问题4：Error waiting on exit barrier错误 需要开启profiling功能进行性能数据采集和解析请参考录制Profiling 训练过程中报"ModuleNotFoundError: No module named 'tyro'"可参考
安装VS Code插件 创建训练作业 单击左侧导航的图标，单击“登录”进入登录页面，输入对应的登录信息。 单击“获取AccessKey”即可跳转到AK/SK获取教程页面。 图2 登录VS Code插件 登录后，VS Code自动同步ModelArts中的训练作业列表，并进入开发场景
Timeout”时请参考问题4：Error waiting on exit barrier错误 4、需要开启profiling功能进行性能数据采集和解析请参考录制Profiling 5、训练过程中报"ModuleNotFoundError: No module named 'tyro'"可
Tenant Administrator 可选 CES云监控 授予子账号使用CES云监控服务的权限。通过CES云监控可以查看ModelArts的在线服务和对应模型负载运行状态的整体情况，并设置监控告警。 CES FullAccess 可选 SMN消息服务 授予子账号使用SMN消息服务的
//docs.vllm.ai/en/latest/getting_started/quickstart.html。 以下服务启动介绍的是在线推理方式，离线推理请参见https://docs.vllm.ai/en/latest/getting_started/quickstart
否 Array of CreateModelRequestModelApis objects 模型所有的apis入参出参信息，从配置文件中解析出来的，可不填。非模板参数 model_name 是 String 模型名称，支持1-64位可见字符（含中文），名称可以包含字母、中文、数字、中划线、下划线。公共参数
在“模型详情”页面右上角，单击“调优”、“压缩”或“部署”，可以直接使用模型进行训推。 当按钮置灰时，表示模型不支持该任务。部分模型支持“在线体验”功能，请以实际环境为准。 模型介绍 表1列举了ModelArts Studio大模型即服务平台支持的模型清单，模型详细信息请查看界面介绍。
dataset：数据集 obs：OBS swr：SWR model_list：AI应用列表 label_task：标注任务 service：在线服务 conditions 否 Array of Constraint objects 数据约束条件。 value 否 Map<String
AI开发平台ModelArts ModelArts CommonOperations ModelArts Dependency Access 模型管理/在线服务/批量服务/边缘服务/边缘部署专属资源池 对象存储服务OBS OBS Administrator 云监控服务CES CES ReadOnlyAccess
如果需要部署量化模型，需在Notebook中进行模型权重转换后再部署推理服务。 在推理生产环境中部署推理服务 介绍如何在创建AI应用，部署并启动推理服务，在线预测在线服务。 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.909）
Step2 权重格式离线转换（可选） AutoAWQ量化完成后，使用int32对int4的权重进行打包。昇腾上使用int8对权重进行打包，在线转换会增加启动时间，可以提前对权重进行转换以减少启动时间，转换步骤如下： 进入llm_tools/AutoAWQ代码目录下执行以下脚本：
创建基于自定义镜像的Notebook实例 方式二：在“镜像管理”页面，单击某个镜像的镜像详情，在镜像详情页，单击“创建Notebook”，也会跳转到基于该自定义镜像创建Notebook的页面。 镜像保存时，哪些目录的数据可以被保存 可以保存的目录：包括容器构建时静态添加到镜像中的文件和目录，可以保存在镜像环境里。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
