服务部署-华为云

AI开发平台MODELARTS-服务部署、启动、升级和修改时，资源不足如何处理？:解决方法

解决方法在遇到资源不足的情况时，ModelArts会进行三次重试，在服务重试期间，如果有资源释放出来，则服务可以正常部署成功。如果三次重试后依然没有足够的资源，则本次服务部署失败。参考以下方式解决：如果是在公共资源池部署服务，可等待其他用户释放资源后，再进行服务部署。如果是在专属资源池部署服务，在满足模型需求的前提下，尝试选用更小的容器规格或自定义规格，进行服务部署；如果当前资源池的资源确实不够，也可以考虑将资源池扩容后再进行服务部署。公共资源池扩容，请联系系统管理员。专属资源池扩容，可参考扩缩容资源池。如果磁盘空间不够，可以尝试重试，使实例调度到其他节点。如果单实例仍磁盘空间不足，请联系系统管理员，更换合适的规格。如果是大模型导入的模型部署服务，请确保专属资源池磁盘空间大于1T（1000GB）。

AI开发平台MODELARTS 服务部署

AI开发平台MODELARTS-服务部署、启动、升级和修改时，容器健康检查失败如何处理？:解决方法

解决方法根据容器日志进行排查，查看健康检查接口失败的具体原因。镜像健康检查配置问题，需修复代码后重新制作镜像创建AI应用后部署服务。了解镜像健康接口配置请参考模型配置文件编写说明中health参数说明。 AI应用健康检查配置问题，需重新创建AI应用或者创建AI应用新版本，配置正确的健康检查，使用新的AI应用或版本重新部署服务。了解AI应用健康检查请参考制作模型镜像并导入中的“健康检查”参数说明。

AI开发平台MODELARTS 服务部署

AI开发平台MODELARTS-属性总览

属性总览您可以使用ServiceStep来构建服务部署节点，ServiceStep结构如下表1 ServiceStep 属性描述是否必填数据类型 name 服务部署节点的名称，命名规范(只能包含英文字母、数字、下划线（_）、中划线（-），并且只能以英文字母开头，长度限制为64字符)，一个Workflow里的两个step名称不能重复是 str inputs 服务部署节点的输入列表否 ServiceInput或者ServiceInput的列表 outputs 服务部署节点的输出列表是 ServiceOutput或者ServiceOutput的列表 title title信息，主要用于前端的名称展示否 str description 服务部署节点的描述信息否 str policy 节点执行的policy 否 StepPolicy depend_steps 依赖的节点列表否 Step或者Step的列表表2 ServiceInput 属性描述是否必填数据类型 name 服务部署节点的输入名称，命名规范(只能包含英文字母、数字、下划线（_）、中划线（-），并且只能以英文字母开头，长度限制为64字符)。同一个Step的输入名称不能重复是 str data 服务部署节点的输入数据对象是模型列表或服务相关对象，当前仅支持ServiceInputPlaceholder，ServiceData，ServiceUpdatePlaceholder 表3 ServiceOutput 属性描述是否必填数据类型 name 服务部署节点的输出名称，命名规范(只能包含英文字母、数字、下划线（_）、中划线（-），并且只能以英文字母开头，长度限制为64字符)。同一个Step的输出名称不能重复是 str service_config 服务部署相关配置信息是 ServiceConfig 表4 ServiceConfig 属性描述是否必填数据类型 infer_type 推理方式：取值可为real-time/batch/edge。默认为real-time。 real-time代表在线服务，将模型部署为一个Web Service。 batch为批量服务，批量服务可对批量数据进行推理，完成数据处理后自动停止。 edge表示边缘服务，通过华为云智能边缘平台，在边缘节点将模型部署为一个Web Service，需提前在IEF（智能边缘服务）创建好节点。是 str service_name 服务名称，支持1-64位可见字符（含中文），名称可以包含字母、中文、数字、中划线、下划线。说明：该字段不填时默认为自动生成的服务名称。否 str、Placeholder description 服务备注，默认为空，不超过100个字符。否 str vpc_id 在线服务实例部署的虚拟私有云ID，默认为空，此时ModelArts会为每个用户分配一个专属的VPC，用户之间隔离。如需要在服务实例中访问名下VPC内的其他服务组件，则可配置此参数为对应VPC的ID。VPC一旦配置，不支持修改。当vpc_id与cluster_id一同配置时，只有专属资源池参数生效。否 str subnet_network_id 子网的网络ID，默认为空，当配置了vpc_id则此参数必填。需填写虚拟私有云控制台子网详情中显示的“网络ID”。通过子网可提供与其他网络隔离的、可以独享的网络资源。否 str security_group_id 安全组，默认为空，当配置了vpc_id则此参数必填。安全组起着虚拟防火墙的作用，为服务实例提供安全的网络访问控制策略。安全组须包含至少一条入方向规则，对协议为TCP、源地址为0.0.0.0/0、端口为8080的请求放行。否 str cluster_id 专属资源池ID，默认为空，不使用专属资源池。使用专属资源池部署服务时需确保集群状态正常；配置此参数后，则使用集群的网络配置，vpc_id参数不生效；与下方real-time config中的cluster_id同时配置时，优先使用real-time config中的cluster_id参数。否 str additional_properties 附加的相关配置信息。否 dict apps 服务部署支持APP认证。支持填入多个app name。否 str、Placeholder、list envs 环境变量否 dict 示例： example = ServiceConfig() # 主要在服务部署节点的输出中使用如果您没有特殊需求，可直接使用内置的默认值。父主题：服务部署节点

AI开发平台MODELARTS 服务部署节点

AI-边缘服务器安装Docker

边缘服务器安装Docker docker 查看docker版本，版本建议20以上 sudo docker --version 安装教程 sudo apt updatesudo apt install docker-ce docker-ce-cli containerd.io nvidia-docker 查看nvidia-docker版本 sudo nvidia-docker --version 安装教程参考：https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/install-guide.html#install-guide distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \&& curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \&& curl -s -L https://nvidia.github.io/libnvidia-container/experimental/$distribution/libnvidia-container.list | \sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.listsudo apt-get updatesudo apt-get install -y nvidia-docker2sudo systemctl restart docker 父主题：边缘服务部署

AI 边缘服务部署

政府-Jenkins

Jenkins Jenkins是一个独立的开源软件项目，是基于Java开发的一种持续集成工具，用于监控持续重复的工作，旨在提供一个开放易用的软件平台，使软件的持续集成变成可能。前身是Hudson是一个可扩展的持续集成引擎。可用于自动化各种任务，如构建，测试和部署软件。Jenkins可以通过本机系统包Docker安装，甚至可以通过安装Java Runtime Environment的任何机器独立运行。下载安装下载安装包wget https://get.jenkins.io/redhat-stable/jenkins-2.332.1.noarch.rpm直接安装rpm -ivh jenkins-2.222.1-1.1.noarch.rpm修改端口号，权限vim /etc/sysconfig/jenkins#监听端口JENKINS_PORT="6001"#为了不因为权限出现各种问题，这里直接使用rootJENKINS_USER="root"启动Jenkinsservice jenkins start 图1 解锁配置项目自动构建新建一个项目文件图2 新建一个项目文件配置项目Git地址图3 配置项目Git地址配置构件步骤图4 配置构件步骤保存更改，点击构建，这样就能自动启动应用图5 启动应用父主题：应用服务部署

政府应用服务部署

华为云区块链引擎服务 HBS-基于华为云资源部署:后续操作（可选）

后续操作（可选）已部署的服务，支持查看创建、删除等操作记录。左侧操作状态栏会展示已有操作记录的状态，操作状态类型包括：进行中、成功和失败。图1 华为云区块链引擎操作记录系统将保留最近三天的操作记录。登录华为云区块链引擎服务管理控制台，单击左侧导航栏中的“服务管理”，选择华为云区块链引擎。单击“操作记录”，查看各个资源的操作记录。您可以按资源名称搜索操作记录，还可以在资源所在行进行“操作详情”及“删除”操作。

华为云区块链引擎服务 HBS 服务部署

华为云区块链引擎服务 HBS-基于华为云资源部署:部署华为云区块链引擎服务

部署华为云区块链引擎服务完成环境准备工作后，可按照如下步骤购买并部署华为云区块链引擎服务。登录华为云区块链引擎服务管理控制台，进入“服务管理”，在华为云区块链引擎页面单击“购买”。已部署的服务，单击左侧导航栏中的“服务管理”，单击右侧的“操作记录”，查看操作记录并在服务右侧进行“操作详情”及“删除”操作。根据界面提示，配置区块链基本信息，参数如表1所示。表1 基本信息配置参数描述示例计费模式华为云区块链引擎服务管理收费模式，支持包年/包月。包年/包月区域区块链基础设施所在的区域，建议选择与业务应用系统相同的地域。使用默认区域区块链服务名称支持英文字符、数字及中划线，不能以中划线开头，长度为4-24个字符。说明：目前区块链名称不支持修改，只能删除重新创建。 hbs-wh 管理模式选择云端管理：使用华为云资源管理区块链数据。云端管理版本类型 HBS提供专业版、企业版和铂金版供您选择。专业版组织配置支持增加组织成员数。专业版支持最大成员组织数2个，企业版支持最大成员组织数10个，铂金版支持最大成员组织数100个。 - 高级设置共识策略：区块链网络中节点之间达成共识需要遵从的规则。默认为Raft(CFT)策略。安全机制：保证数据安全的加密算法，默认为ECDSA；支持国密算法。 - 购买时长支持自定义购买服务的使用时间，最短1个月。您可根据需要选择勾选自动续费，按月购买的自动续费周期为1个月，按年购买的自动续费周期为1年。默认1个月单击“立即创建”。确认配置信息无误后，勾选协议和免责声明，并单击“提交”。进入支付页面，确认订单费用无误后，单击“确认付款”，订单支付成功后，即可返回华为云区块链引擎服务控制台查看正在创建的服务。服务创建大概需要18-25分钟，请耐心等待。服务创建成功后，查看服务状态变为“正常”后，表示华为云区块链引擎服务部署完成。

华为云区块链引擎服务 HBS 服务部署

云服务器内容精选

服务部署

7*24

备案

专业服务

退订

建议反馈

售前咨询热线