检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
从推理服务的算法实例内部，访问公网服务地址的方案。如下图所示： 图1 推理服务访问公网 步骤一：ModelArts专属资源池打通VPC 创建好VPC和子网，具体步骤请参考创建虚拟私有云和子网。 创建Modelarts专属资源池网络。 登录ModelArts管理控制台，在左侧导航栏中选择“AI专属资源池 > 弹性集群
配置SSH Step2 获取开发环境预置虚拟环境路径 单击“Tools > Start SSH Session”，则可连接到云端开发环境内。 执行如下命令可在/home/ma-user/下面的README文件查看当前环境内置的Python虚拟环境。 cat /home/ma-user/README
--url：API接口公网地址与"/v1/completions"拼接而成，部署成功后的在线服务详情页中可查看API接口公网地址。 图1 API接口公网地址 --app-code：获取方式见访问在线服务（APP认证）。 --tokenizer：tokenizer路径，HuggingF
C和子网。 需要打通的对端网络不能和当前网段重叠。 图2 打通VPC参数选择 如果没有VPC可选，可以单击右侧的“创建虚拟私有云”，跳转到网络控制台，申请创建虚拟私有云。 如果没有子网可选，可以单击右侧的“创建子网”，跳转到网络控制台，创建可用的子网。 支持1个VPC下多个子网的
规则。 综上，在线服务的运行费用 = 计算资源费用（3.50 元） + 存储费用 示例：使用专属资源池。计费项：存储费用 假设用户于2023年4月1日10:00:00创建了一个使用专属资源池的在线服务，并在11:00:00停止运行。按照存储费用结算，那么运行这个在线服务的费用计算过程如下：
定制化委托授权。更多权限控制的内容请参见权限管理章节。 本章节主要介绍一键式自动授权方式。一键式自动授权方式支持给IAM子用户、联邦用户（虚拟IAM用户）、委托用户和所有用户授权。 约束与限制 华为云账号 只有华为云账号可以使用委托授权，可以为当前账号授权，也可以为当前账号下的所有IAM用户授权。
model:/home/mind/model custom_engine:v1 该指令无法完全模拟线上，主要是由于-v挂载进去的目录是root权限。在线上，模型文件从OBS下载到/home/mind/model目录之后，文件owner将统一修改为ma-user。 在本地机器上启动另一个终端
删除Workflow工作流 查询Workflow工作流 修改Workflow工作流 总览Workflow工作流 查询Workflow待办事项 在线服务鉴权 创建在线服务包 获取Execution列表 新建Workflow Execution 删除Workflow Execution 查询Workflow
model:/home/mind/model custom_engine:v1 该指令无法完全模拟线上，主要是由于-v挂载进去的目录是root权限。在线上，模型文件从OBS下载到/home/mind/model目录之后，文件owner将统一修改为ma-user。 在本地机器上启动另一个终端
专属资源池购买后，中途扩容了一个节点，如何计费？ 共享池和专属池的区别是什么？ 如何通过ssh登录专属资源池节点？ 训练任务的排队逻辑是什么？ 专属资源池下的在线服务停止后，启动新的在线服务，提示资源不足 不同实例的资源池安装的cuda和驱动版本号分别是什么？ 算法运行时需要依赖鉴权服务，公共资源池是否支持两者打通网络？
标 训练作业：用户在运行训练作业时，可以查看多个计算节点的CPU、GPU、NPU资源使用情况。具体请参见训练资源监控章节。 在线服务：用户将模型部署为在线服务后，可以通过监控功能查看CPU、内存、GPU等资源使用统计信息和模型调用次数统计，具体参见查看服务详情章节。 父主题： ModelArts
部署服务：模型构建完成后，根据您的业务场景，选择将模型部署成对应的服务类型。 将模型部署为实时推理作业 将模型部署为一个Web Service，并且提供在线的测试UI与监控功能，部署成功的在线服务，将为用户提供一个可调用的API。 将模型部署为批量推理服务 批量服务可对批量数据进行推理，完成数据处理后自动停止。
由于ModelArts服务在使用过程中会访问其他依赖服务，因此需要给ModelArts进行委托授权。 购买Server资源时，需要选择虚拟私有云用于网络通信，您可以使用已有的虚拟私有云或新创建的虚拟私有云。 若使用密钥对作为登录裸金属服务器的鉴权方式，您可以使用已有的密钥对或新创建的密钥对。 在ModelArts控制台购买Server资源。
1009”：“AppKey or AppSecret is invalid”。 查询AppKey和AppSecret，使用APP认证访问在线服务，请参考访问在线服务（APP认证）。 父主题： 服务预测
华为云租户的安全责任在于对使用的IaaS、PaaS和SaaS类各项云服务内部的安全以及对租户定制配置进行安全有效的管理，包括但不限于虚拟网络、虚拟主机和访客虚拟机的操作系统，虚拟防火墙、API网关和高级安全服务，各项云服务，租户数据，以及身份账号和密钥管理等方面的安全配置。 《华为云安全白皮书》
息进行升级。 约束限制 服务升级关系着业务实现，不当的升级操作会导致升级期间业务中断的情况，请谨慎操作。 ModelArts支持部分场景下在线服务进行无损滚动升级。按要求进行升级前准备，做好验证，即可实现业务不中断的无损升级。 表1 支持无损滚动升级的场景 创建模型的元模型来源 服务使用的是公共资源池
ECS的操作权限。 验证VPC权限。 在左上角的服务列表中，选择VPC服务，进入VPC管理控制台。 在VPC管理控制台，单击右上角的“创建虚拟私有云”，如果能正常打开页面，表示当前用户具备VPC的操作权限。 验证DEW权限。 在左上角的服务列表中，选择DEW服务，进入DEW管理控制台。
业和设备生产厂商提供了一整套安全可靠的一站式部署方式。 图1 部署模型的流程 在线推理服务，可以实现高并发，低延时，弹性伸缩，并且支持多模型灰度发布、A/B测试。 支持各种部署场景，既能部署为云端的在线推理服务和批量推理任务，也能部署到端，边等各种设备。 一键部署，可以直接推送部
部署上线 功能咨询 在线服务 边缘服务 父主题： Standard推理部署
使用普通OBS桶。 创建普通OBS桶 创建并行文件系统 虚拟私有云VPC 虚拟私有云可以为您构建隔离的、用户自主配置和管理的虚拟网络环境。 通过打通专属资源池的VPC，可以方便用户跨VPC使用资源，提升资源利用率。 创建虚拟私有云和子网 弹性云服务器ECS 如果您需要在服务器上部
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
