检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
如何对平台接入的第三方模型服务设置鉴权 平台资产中心接入了第三方供应商的闭源模型,例如GLM系列、Moonshot系列等,这些模型服务在调测(体验)、调用前,需要先设置模型鉴权。 前提条件 需要具备AI原生应用引擎管理员权限,权限申请操作请参见AppStage组织成员申请权限。
更新管理 AppStage对接云证书管理服务 CCM管理服务凭证,保证明文的有效凭据不落盘,并保持定期轮转。 关于云证书管理服务 CCM的详细信息,请参考云证书管理服务。 父主题: 安全
在SLB中进行降级配置 降级配置是在业务高峰期时,需要临时减少对于目标服务的访问,达到降低目标服务负载;或者屏蔽对于非关键服务的访问,保持本服务的核心处理能力的治理措施。降级执行流程如图1所示。
TypeError: not supported between instances of 'str' and 'float' 问题现象 在judge日志中出现TypeError: not supported between instances of 'str' and 'float
judge长时间处于SUBMIT状态直至失败 问题现象 judge记录一直处于提交未执行SUBMIT状态,直至失败FAIL。 可能原因 后端任务内存溢出,可以在训练日志中的ad-agent日志找到报错java.lang.OutOfMemoryError:Java heap space
转发策略配置 本章介绍通过IaC进行转发策略配置的管理,包括监听下的转发策略、健康检查、后端服务器及动态路由管理。对应的资源类型为WiseCloud::LoadBalancer::SLB::RouteRule。
在主机管理服务中,选择“主机列表 > 弹性云服务器”,查看IP地址和主机名称。 单击“保存”。 部署节点 本节介绍如何部署自管理主机节点。 实例节点所在的归属服务需要和实例所在的所属服务一致。
关于组织成员账号 OrgID服务更多信息,请参考组织成员账号 OrgID服务的帮助文档。 父主题: 管理已关联组织的部门及成员
通过IaC分发敏感配置 敏感配置项录入后,需要通过IaC部署后生效变成已发布状态,微服务才能获取。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。
执行下一阶段 将N阶段发布的灰度服务,切换到下一阶段的分流规则进行灰度。 在灰度服务管理页面,单击灰度服务列表当前状态列的“灰度管理”。 在灰度管理页面,单击“进入下一阶段”。
Agent问答的时候报错“很抱歉,我的系统似乎遇到了一些故障问题,暂时无法为您提供服务” 问题现象 图1 Agent报错 解决方法 检查创建Agent时选择的模型是否为模型服务商API,使用模型服务商API时,需要配置模型服务鉴权,新开的租户没有配置模型鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权
在服务所在行的“操作”列单击“创建微服务”。具体配置信息请参考创建微服务。 查看产品/服务/微服务详情 在对应的“产品/服务/微服务中文名”列下,单击产品/服务/微服务中文名。 发布产品/服务/微服务 在对应的“操作”列下,单击“发布”。
后端服务器集群 绑定后端服务器集群。 关联灰度服务 不启用灰度。 选择关联的灰度服务。 灰度服务依赖转发策略,一个转发策略可以对应多个灰度服务,一个灰度服务只能对应一个转发策略。
通过IaC分发敏感配置:业务研发人员编写IaC代码,声明业务软件依赖的敏感配置,IaC部署后,敏感配置项生效变成已发布状态,微服务才能获取。 在业务代码中配置敏感配置解密:通过STS SDK获取敏感配置并自动解密。 父主题: 管理敏感配置
在SLB中配置监听共享 AppStage的资源按照服务级隔离,跨服务使用监听时,需要配置共享。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 配置监听共享 进入AppStage运维中心。 在顶部导航栏选择服务。
通过IaC分发敏感配置:业务研发人员编写IaC代码,声明业务软件依赖的敏感配置,IaC部署后,敏感配置项生效变成已发布状态,微服务才能获取。 在业务代码中配置敏感配置解密:通过STS SDK获取敏感配置并自动解密。 父主题: 在ACMS中管理敏感配置
在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“实例管理”,在实例列表单击待共享实例的名称。 在实例详情页面,单击右上角的“共享服务管理”。 在弹出框中单击“编辑”。 单击“新增”,选择共享服务。 单击“保存”。
执行下一阶段 将N阶段发布的灰度服务,切换到下一阶段的分流规则进行灰度。 在灰度服务管理页面,单击灰度服务列表当前状态列的“灰度管理”。 在灰度管理页面,单击“进入下一阶段”。
所属服务 选择Action任务所属的服务。 选择“灰度阶段切换”页签,选择灰度服务。 配置灰度起始阶段和期望阶段。 起始阶段:不填默认为0,0代表可以从任意阶段切换到预期阶段。 期望阶段:选择期望的灰度阶段。 单击“保存”。 任务创建完后,在部署服务变更管理中执行变更。
在SLB中创建和管理流控服务 在SLB中创建流控服务 在SLB中配置负载均衡OLC服务 在SLB中发布负载均衡OLC服务 在SLB中导出OLC规则的IAC信息 父主题: 配置运行时引擎负载均衡