检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
调用MaaS部署的模型服务 在ModelArts Studio大模型即服务平台部署成功的模型服务支持在其他业务环境中调用。 约束限制 只有“状态”是“运行中”的模型服务才支持被调用。 步骤1：获取API Key 在调用MaaS部署的模型服务时，需要填写API Key用于接口的鉴权认证。
get.docker.com -o get-docker.sh sh get-docker.sh 如果docker images命令可以执行成功，表示Docker已安装，此步骤可跳过。 确认Docker Engine版本。执行如下命令。 docker version | grep -A
在数据集详情页，选择“数据集介绍”页签，单击右侧“编辑介绍”。 编辑数据集基础设置和数据集描述。 表1 数据集介绍的参数说明 参数名称 说明 基础设置 中文名称 显示数据集的名称，不可编辑。 许可证 数据集遵循的使用许可协议，根据业务需求选择合适的许可证类型。 语言 选择使用数据集时支持的输入输出语言。
<镜像仓库地址>/<组织名称>/<镜像名称>:<版本名称> 参数说明： <镜像仓库地址>：可在SWR控制台上查询，容器镜像服务中登录指令末尾的域名即为镜像仓库地址。 <组织名称>：Step3中自己创建的组织名称。示例：GROUP_NAME <镜像名称>:<版本名称>：定义镜像名称。示
单个节点的替换。替换节点操作不会收取费用。 单击“操作记录”可查看当前资源池替换节点的操作记录。“运行中”表示节点在替换中。替换成功后，节点列表中会显示新的节点名称。 替换最长时间为24小时，超时后仍然未找到合适的资源，状态会变为“失败”。可将鼠标悬浮在图标上，查看具体失败原因。
运行完后，会生成推理所需镜像。 Step5 启动容器镜像 启动容器镜像前请先按照参数说明修改${}中的参数。docker启动失败会有对应的error提示，启动成功会有对应的docker id生成，并且不会报错。 docker run -itd \ --device=/dev/davinci0 \ -
查看批量服务详情 当模型部署为批量服务成功后，您可以进入“批量服务”页面，来查看服务详情。 登录ModelArts管理控制台，在左侧菜单栏中选择“模型部署>批量服务”，进入“批量服务”管理页面。 单击目标服务名称，进入服务详情页面。 您可以查看服务的“名称”、“状态”等信息，详情说明请参见表1。
图2 发布AI Gallery Notebook 界面提示成功创建分享后，单击“”跳转至AI Gallery，进入Notebook代码样例的详情页面。 图3 跳转至AI Gallery 编辑资产详情 资产发布成功后，发布者可以进入详情页修改该资产的标题、封面图等，让资产更吸引
完成资源配置后，单击“继续运行”，在弹框中确认继续运行后，服务部署节点将继续运行，直至状态变为“运行成功”，至此，已将模型部署为在线服务。 服务测试 服务部署节点运行成功后，单击“实例详情”可跳转至对应的在线服务详情页面。单击“预测”页签，进行服务测试。 图1 服务测试 下面
config.yaml 检查pod启动情况，执行下述命令。如果显示“1/1 running”状态代表启动成功。 kubectl get pod -A 进入容器，{pod_name}替换为您的pod名字（get pod中显示的名字），{namespace}替换为您的命名空间（默认为default）。
选择密钥文件 如果密钥选择错误，则弹出提示信息，请根据提示信息选择正确密钥。 图9 选择正确的密钥文件 当左下角显示如下状态时，代表实例连接成功： 图10 实例连接成功 当弹出如下错误时，代表实例连接失败，请关闭弹窗，并查看OUTPUT窗口的输出日志，请查看FAQ并排查失败原因。
Integer 团队标注成员任务邮件通知状态。可选值如下： 0：表示未发送过 1：表示邮箱格式错误 2：表示邮箱地址不可达， 3：表示发送成功 last_notify_time Long 团队标注成员任务邮件最近一次通知时间戳。 pass_rate Double 团队标注成员任务验收审核通过率。
--listen --log-startup --disable-safe-unpickle --api 等待克隆仓库，下载依赖模型，启动成功后显示 图1 启动成功后显示 验证效果。 新开启一个终端，执行以下命令。 curl --noproxy '*' -kv -X POST localhos
如果信息正确，右下角连接状态处会显示：CONNECTED； 如果无法建立连接，如果是401状态码，检查认证信息； 如果显示WRONG_VERSION_NUMBER等关键字，检查自定义镜像的端口和ws跟wss的配置是否正确。 连接成功后结果如下： 图5 连接成功 优先验证自定义镜像提供的
要的驱动版本并选择对应驱动。 GPU驱动/Ascend驱动 打开“自定义驱动”开关，显示此参数，选择GPU/Ascend驱动。若规格类型为GPU则显示“GPU驱动”，若规格类型为Ascend则显示“Ascend驱动”。 gpu-driver配套版本请参考不同机型的对应的软件配套版本。
--log-startup --disable-safe-unpickle --api 等待克隆仓库，下载依赖模型，启动成功后显示如图1所示。 图1 启动成功后显示 如果在安装编译handrefinerportable时出错，则需手动下载whl包： wget https://github
job_id"，或从查询训练作业列表的响应中获得。 无成功响应参数。 表2 调用训练接口失败响应参数 参数 类型 描述 error_msg String 调用失败时的错误信息，调用成功时无此字段。 error_code String 调用失败时的错误码，具体请参见错误码，调用成功时无此字段。 error_solution
避免造成不必要的资源浪费。 完成资源配置后，单击“继续运行”，服务部署节点将继续运行，直至状态变为“运行成功”，至此，已将模型部署为在线服务。 服务测试 服务部署节点运行成功后，单击“实例详情”可跳转至对应的在线服务详情页面。单击“预测”页签，进行服务测试。 图1 服务测试 下面
完成资源配置后，单击“继续运行”，在弹框中确认继续运行后，服务部署节点将继续运行，直至状态变为“运行成功”，至此，已将模型部署为在线服务。 服务测试 服务部署节点运行成功后，单击“实例详情”可跳转至对应的在线服务详情页面。单击“预测”页签，进行服务测试。 图1 服务测试 下面
避免造成不必要的资源浪费。 完成资源配置后，单击“继续运行”，服务部署节点将继续运行，直至状态变为“运行成功”，至此，已将模型部署为在线服务。 服务测试 服务部署节点运行成功后，单击“实例详情”可跳转至对应的在线服务详情页面。单击“预测”页签，进行服务测试。 图1 服务测试 下面
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
