检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
获取模型部署ID 模型部署ID获取步骤如下： 登录ModelArts Studio大模型开发平台。 获取模型请求URI。 若调用部署后的模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“我的服务”页签，模型部署列表单击模型名称，在“详情”页签中，可获取模型的部署ID。 图1
查看科学计算大模型部署任务详情 部署任务创建成功后，可以查看大模型部署的任务详情，具体步骤如下： 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“模型开发 > 模型部署”，完成创建科学计算大模型部署任务后，可以查看模型的部署状态。
管理NLP大模型部署任务 模型更新 完成创建NLP大模型部署任务后，可以替换已部署的模型并升级配置，具体步骤如下： 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“模型开发 > 模型部署”，单击模型名称，进入模型详情页面。
管理CV大模型部署任务 模型更新 完成创建CV大模型部署任务后，可以替换已部署的模型并升级配置，具体步骤如下： 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“模型开发 > 模型部署”，单击模型名称，进入模型详情页面。
模型训练 使用特征工程处理后生成的训练集进行模型训练。 创建联邦学习训练任务（简易编辑器） 单击简易编辑器界面右上角的“训练”。 进入“训练任务配置”界面，如图1所示。 图1 训练任务配置 参数说明，如表1所示。 表1 参数配置 区域 参数名称 参数描述 任务说明 任务名称 训练任务的名称。
可以设置批量部署、增量部署等部署策略吗？ 目前页面上还没有提供部署策略的选择，但是可以通过配置来实现一些部署策略，例如： 批量部署：在为应用配置主机时，可以选择多个主机作为目标主机。 增量部署：模板部署中支持新增部署步骤，或者禁用单个或者多个部署步骤。 父主题： 应用部署
查看CV大模型部署任务详情 部署任务创建成功后，可以查看大模型部署的任务详情，具体步骤如下： 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“模型开发 > 模型部署”，完成创建CV大模型部署任务后，可以查看模型的部署状态。
创建模型成功后，部署服务报错，如何排查代码问题 问题现象 创建模型成功后，部署服务失败，如何定位是模型代码编写有问题。 原因分析 用户自定义镜像或者通过基础镜像导入的模型时，用户自己编写了很多自定义的业务逻辑，这些逻辑有问题将会导致服务部署或者预测失败，需要能够排查出哪里有问题。
管理科学计算大模型部署任务 模型更新 完成创建科学计算大模型部署任务后，可以替换已部署的模型并升级配置，具体步骤如下： 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“模型开发 > 模型部署”，单击模型名称，进入模型详情页面。
部署CV大模型 创建CV大模型部署任务 查看CV大模型部署任务详情 管理CV大模型部署任务 父主题： 开发盘古CV大模型
部署预测大模型 创建预测大模型部署任务 查看预测大模型部署任务详情 管理预测大模型部署任务 父主题： 开发盘古预测大模型
部署专业大模型 创建专业大模型部署任务 查看专业大模型部署任务详情 管理专业大模型部署任务 父主题： 开发盘古专业大模型
将已有模型部署为模型服务 模型需要部署成功后才可正式提供模型服务。部署成功后，可以对模型服务进行模型调测，并支持在创建Agent时使用或通过模型调用接口调用。 本文介绍如何将微调后的模型或部分平台资产中心的模型部署为模型服务。 前提条件 已购买推理单元资源，具体购买方法请参见购买AI原生应用引擎包年包月资源。
池的物理池。 “选择模型及配置” “模型来源” 根据您的实际情况选择“自定义模型”或者“订阅模型”。 “选择模型及版本” 选择状态“正常”的模型及版本。 “分流” 设置当前实例节点的流量占比，服务调用请求根据该比例分配到当前版本上。 如您仅部署一个版本的模型，请设置为100%。如
开源模型怎么部署？ 开源模型的部署需要购买推理单元，具体操作如下： 在AI原生应用引擎的左侧导航栏选择“资产中心”，选择“大模型”页签。 将鼠标光标移至待部署的开源模型卡片上，单击“部署”。 在“创建部署服务”页面，可以查看到需要几个推理单元，单击“购买推理单元资源”。 图1 创建部署服务
部署NLP大模型 创建NLP大模型部署任务 查看NLP大模型部署任务详情 管理NLP大模型部署任务 父主题： 开发盘古NLP大模型
模型，自动学习产生的模型都是以“exeML-”开头的。单击模型名称进入模型详情页面，在“基本信息”区域，获取“ID”的值。 图1 获取模型ID 获取模型事件信息。 进入模型详情页面后，单击“事件”页签，将事件信息表截图后反馈给技术支持人员。 图2 获取事件信息 父主题： 模型发布
创建联邦学习工程，编写代码，进行模型训练，生成模型包。此联邦学习模型包可以导入至联邦学习部署服务，作为联邦学习实例的基础模型包。 在联邦学习部署服务创建联邦学习实例时，将“基础模型配置”选择为“从NAIE平台中导入”，自动匹配模型训练服务的联邦学习工程及其训练任务和模型包。 创建联邦学习工程步骤如下。
Flask应用 使用此启动配置来运行 Flask 应用程序。该配置将执行 “python Flask run” 命令，启动内置 Flask 开发服务器。 启动配置属性 启动配置示例 父主题： 启动配置
部署科学计算大模型 创建科学计算大模型部署任务 查看科学计算大模型部署任务详情 管理科学计算大模型部署任务 父主题： 开发盘古科学计算大模型
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
