检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
flavor String 是 规格:2C8G、4C16G、8C32G、16C64G replicas int 是 单AZ主机数量,<=100 为0时创建自管理实例,大于0时创建平台管理实例。
2 生成模型服务 将已有模型部署为模型服务 接入模型服务 支持通过API接入模型服务,同时支持将平台预置模型进行微调后,部署为模型服务,模型服务可以在创建Agent时使用或通过模型调用接口调用。
获取平台API Key,并为API Key添加前缀Bearer,得到标准鉴权信息,例如Bearer sk-74e4157***。API Key获取方法请参见创建API Key。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。
评测模型 平台支持从多个维度对模型的能力、性能进行评估,以保证模型效果,为模型选型提供可靠依据。 约束与限制 仅支持对文本对话类型的模型服务进行评测。 前提条件 评测模型前,请先通过调测/体验模型功能确认模型可用。
管理账号信息 在账号信息页面,用户可以便捷地查看当前登录账号的账户信息(账号名、岗位),以及修改账号密码。为保障账号安全,建议定期更新密码。 查看账户信息 登录AI原生应用引擎,将鼠标移至右上角登录的用户名,弹出“账户信息”页面,可查看当前登录用户的账户信息:账号名、岗位。 修改成员账号密码
构建知识库 创建知识数据集 创建知识库 创建知识检索流
通过看板查看运营数据 产品运营人员能直观查看关键数据,分析产品运营过程中取得的成效和潜在问题。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。 操作步骤 登录AppStage业务控制台。 在快捷入口选择“运营中心”,进入运营中心。 在左侧导航栏选择
开源模型怎么部署? 开源模型的部署需要购买推理单元,具体操作如下: 在AI原生应用引擎的左侧导航栏选择“资产中心”,选择“大模型”页签。 将鼠标光标移至待部署的开源模型卡片上,单击“部署”。 在“创建部署服务”页面,可以查看到需要几个推理单元,单击“购买推理单元资源”。 图1 创建部署服务
在AppStage中管理公告 在AppStage的公告管理页面,组织管理员可以根据需要创建、修改、删除,以及置顶/取消置顶系统官方发布的声明或通知,通过公告把信息传递给组织下的所有用户,使用户更好的了解系统更新、消息传达、公共管理、实施细节等事项。 前提条件 登录用户为组织管理员。
获取平台API Key,并为API Key添加前缀Bearer,得到标准鉴权信息,例如Bearer sk-74e4157***。API Key获取方法请参见创建API Key。 约束限制: 不涉及。 取值范围: 不涉及。 默认取值: 不涉及。
支持对我的模型(我部署的、我接入的)、我的路由策略、平台预置的模型以及平台接入的第三方模型进行调测。 前提条件 对平台接入的第三方模型进行调测前,需要先设置鉴权,具体操作请参见如何对平台接入的第三方模型服务设置鉴权。
创建容器部署环境:部署前需要在微服务平台准备容器部署环境。 在微服务平台新增环境信息。 将CCE集群同步至微服务平台。 在微服务平台配置部署环境。 使用容器部署应用:通过变更环境完成容器部署应用,具体操作请参见使用容器部署应用。 父主题: 容器部署
管理容器集群 管理微服务 微服务平台(NUWA Runtime)可以对微服务本身及其相关的资源进行管理。 通过微服务平台管理微服务 配置负载均衡 负载均衡(SLB)提供反向代理、负载均衡、路由分发、灰度分流、限流降级、访问控制、监控告警等能力。
接入运营数据 在运营中心新建数据源 新建数据接入将源端数据迁移到运营中心
运维中心负载均衡 SLB同步异常相关问题 SLB同步检查不一致 SLB一直同步,心跳异常 SLB部署失败相关问题 资源间绑定服务不一致
日志处理 logger名称和描述 Rainbow SDK需要配置的logger名称和描述如表1所示。 表1 logger说明 Logger名称 建议日志级别 说明 com.huawei.rainbow com.huawei.wisecloud.jetcd INFO Rainbow
管理工单 工单管理使用场景介绍 管理变更单 管理事件单
Terraform包 Terraform包的规范请参考Terraform。 父主题: 打包规范
TF模板包 运维中心集成华为云资源编排服务RFS,用于管理系统资源及服务资源。RFS主要包含模板和资源栈两部分,TF模板是用来创建、更新资源栈的脚本。 研发包结构 Service下所有的main.tf文件中的Resource实例不能有重叠,否则会导致资源被覆盖或删除。 图1 研发包结构
支持AI原生应用引擎平台的API Key鉴权。