检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
开源模型怎么部署? 开源模型的部署需要购买推理单元,具体操作如下: 在AI原生应用引擎的左侧导航栏选择“资产中心”,选择“大模型”页签。 将鼠标光标移至待部署的开源模型卡片上,单击“部署”。 在“创建部署服务”页面,可以查看到需要几个推理单元,单击“购买推理单元资源”。 图1 创建部署服务
配置访问凭据管理服务 运维中心访问凭据管理服务功能介绍 将微服务注册到ACMS 在ACMS中配置ACL 在ACMS中管理敏感配置 在ACMS中查询认证凭据
运维中心部署服务 更新环境的代码包不存在规格cn_product_default 更新环境时报错 如何自动获取验签?
在实例列表中单击实例名称,进入实例详情页面。 选择“内网段配置”页签,单击“编辑”。 单击“设为默认值”,可以将配置设为默认值。 配置完成后,单击“保存”。 父主题: 在SLB中创建和管理负载均衡实例
作请参见申请权限。 降级配置 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“实例管理”。 在实例列表中单击待配置实例的名称,进入实例详情页面。 选择“降级配置”页签,单击“编辑”。 配置降级相关参数,参数说明如表1所示。
修改SDK配置 单击SDK列表操作列的“管理”,修改SDK配置。 删除SDK配置 单击SDK列表操作列的“删除”,删除SDK配置。 跳转到Cloud Map 单击SDK列表操作列的“跳转到Cloud Map”,查看SDK配置数据推送到Cloud Map。 父主题: 配置运行时引擎数据库治理
将监听配置同步到SLB节点 监听配置完成后,配置数据只是保存到数据库中,如需将监听服务应用到SLB,还需要执行同步操作。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 将监听配置同步到SLB 进入AppStage运维中心。 在顶部导航栏选择服务。
单击“下一步”。 在分流配置页面,输入分流规则名称,填写各个阶段的分流配置项,单击“下一步”。分流配置项的参数说明如表1所示。 N阶段发布时,单击“插入新阶段”,插入新的分流阶段;单击分流配置项右上角的,可以删除配置项。 在每个分流配置项下单击“新增子项”,新增一条分流配置子项,每个子项有参数、类型、位置、匹配、值。
基于当前状态的资源配置导出IaC3.0包 部署服务支持导出环境当前使用的IaC包,可以导出并查看IaC代码。 导出IaC包 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。 单击“更多 >
申请操作请参见申请权限。 配置url重写/重定向 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“实例管理”。 在实例列表中单击实例名称,进入实例详情页面。 选择“url重写/重定向配置”页签,单击“编辑”。 单
可设置多个参数匹配同时满足时的,对应的限流条件 在“限流配置”页签,单击“新增流控”。 流控类型选择为“多参数组合流控”,单击“确定”。 配置流控规则,参数说明如表11所示。 单击“新增配置组”,可以配置多个配置组;在各配置组中单击“新增子项”,可以配置多条子项。多个配置组之间关系为“或”,多条子项之间关系为“与”。
在SLB中配置负载均衡实例共享 AppStage的资源按照服务级隔离,跨服务使用负载均衡实例时,需要配置共享。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 配置SLB实例共享 进入AppStage运维中心。 在顶部导航栏选择服务。
在实例列表中单击待配置实例的名称,进入实例详情页面。 选择“黑白名单配置”页签,单击“编辑”。 单击“新增配置组”,配置SLB上的流控相关的黑名单及白名单。参数说明如表1所示。 继续单击“新增配置组”,可以配置多个配置组;在各配置组中单击“新增子项”,可以配置多条名单子项。多个配置组之间关系为“或”,多条子项之间关系为“与”。
应用平台IaC部署代码开发 IaC概述 准备工作 IaC代码结构介绍 IaC Spec包典型目录结构 IaC Patch包典型目录结构 在IaC代码中声明资源 在IaC代码中定义流水线 包描述文件介绍 IaC资源参数介绍
及索引配置。如果当前数据集未创建索引配置,可以单击“创建索引配置”,参考创建索引配置进行创建。 您也可以单击“创建知识数据集”,参考创建知识数据集创建新的数据集。 说明: 每个知识库最多只能添加5个数据集,且添加的数据集必须为同一类型。 单击“保存”,保存知识库的参数配置。 单击
作请参见申请权限。 降级配置 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“实例管理”。 在实例列表中单击待配置实例的名称,进入实例详情页面。 选择“降级配置”页签,单击“编辑”。 配置降级相关参数,参数说明如表1所示。
SLB实例的所有信息即可导出到本地。 导入配置信息 在新增SLB配置时,通过导入操作实现配置信息的复制和迁移。导入操作将保留SLB实例的基本信息、SLB节点信息以及定制lua配置,覆盖配置信息(nginx.conf、url重写/重定向、内网段、降级、黑白名单、限流、其他配置)。 单击实例列表中待配置实例的实例名称。
产中心“,选择“大模型”页签,单击模型卡片进入模型详情页面,查看模型服务调用ID。 2.租户部署模型服务 登录AI原生应用引擎,在左侧导航栏选择“模型中心 > 我的模型服务”,选择“我部署的”页签,在模型服务列表中复制模型服务调用ID。 3.租户接入模型服务 登录AI原生应用引擎,在左侧导航栏选择“模型中心
申请操作请参见申请权限。 配置url重写/重定向 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“实例管理”。 在实例列表中单击实例名称,进入实例详情页面。 选择“url重写/重定向配置”页签,单击“编辑”。 单
可设置多个参数匹配同时满足时的,对应的限流条件 在“限流配置”页签,单击“新增流控”。 流控类型选择为“多参数组合流控”,单击“确定”。 配置流控规则,参数说明如表11所示。 单击“新增配置组”,可以配置多个配置组;在各配置组中单击“新增子项”,可以配置多条子项。多个配置组之间关系为“或”,多条子项之间关系为“与”。