检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
token,对应的中文约为512个字,英文与符号约900个字符,请注意分片长度。 说明: 模型服务商API使用前需要先设置鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权。 长文本策略 截断模式:如果待向量化分片字段token长度超过向量化模型限制的token总数,则进行截断,取前top
本文通过调用一系列知识中心的API介绍知识库的更新流程,适用于当数据源为OBS接入时,在OBS上进行文件增删改后,将改动同步到知识库的场景。API调用方法请参见如何调用API。 前提条件 用户接入的OBS目录下,存在文件的增删改其中一种情况。 需获取待更新数据集的id,支持通过如下两种方式获取: 创建
座模型,通过微调提升模型的数据分析和指标计算能力,帮助您快速掌握使用AI原生应用引擎完成模型调优并测试效果。 使用流程 通过图1您可以了解如何在AI原生应用引擎创建数据集、创建微调任务、部署推理模型以及在线测试模型效果。 图1 模型调优流程 创建微调数据集 数据集是模型微调的基础,首先需要创建用于模型训练的数据集。
业务验证 查看任务状态 登录AppStage首页。 在快捷入口选择“运维中心”,进入运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。 在环境列表中的环境名称,在环境详情页面查看组件列表中的状态。 当此次变更的
查看Agent调用统计 Agent调用统计页面展示当前租户所在的根部门以及租户下二级子部门的Agent调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板
查看模型调用统计 模型调用统计页面展示当前租户所在的根部门以及租户下二级子部门的模型调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板 > 模型调用统计”。
管理镜像包 您可以使用开发中心推包,将包发布到公有云镜像仓,或手动上传镜像包至运维中心软件仓库,并且支持在软件仓库对包进行管理。 容器镜像地址分为镜像仓库、组织、镜像名和镜像tag。 共享镜像 镜像共享是以镜像名为最小单位。共享镜像后,该镜像名下所有tag的镜像都会被共享。 进入AppStage运维中心。
查看隔离域关联的IP信息 对于容器类型的隔离域,会自动关联容器的IP,您可以查看隔离域关联的IP信息。 查看隔离域关联的IP信息 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 弹性网络服务(ENS)”。 选择左侧导航栏的“隔离域”,默认显示“隔离域配置”页签。
在SLB中管理灰度状态 管理灰度发布的整个执行阶段。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 启动灰度 如果初始配置发布时,没有选择启用灰度,灰度服务当前状态为待启动,可以在灰度管理中启用灰度。 进入AppStage运维中心。
在SLB中管理灰度状态 管理灰度发布的整个执行阶段。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 启动灰度 如果初始配置发布时,没有选择启用灰度,灰度服务当前状态为待启动,可以在灰度管理中启用灰度。 进入AppStage运维中心。
在微服务平台配置部署环境 在微服务容器化部署前,需要先为环境绑定CCE集群,用于在环境下部署和运行微服务。 前提条件 需要提前创建好变更电子流,具体请参见变更电子流管理。 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 在微服务平台中,有已
在微服务平台配置部署环境 在微服务容器化部署前,需要先为环境绑定CCE集群,用于在环境下部署和运行微服务。 前提条件 需要提前创建好变更电子流,具体请参见变更电子流管理。 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 在微服务平台中,有已
微服务调用的失败次数 - 3 targetGroup object{ name, loadBalancer } 必选 "" 微服务注册到SLB上的后端服务器组名 用于创建RouteRule,其中的name为必选,对应NuwaRuntime的backendClusterName,其它为可选。 在
在微服务平台查看微服务实例列表 通过微服务平台查看微服务的实例列表。 查看微服务实例列表 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 微服务平台”。 选择左侧导航栏的“微服务管理”。 选择微服务列表操作列的“更多 > 实例管理”,进入实例管理页面。
在微服务平台查看微服务实例列表 通过微服务平台查看微服务的实例列表。 查看微服务实例列表 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 微服务平台”。 选择左侧导航栏的“微服务管理”。 选择微服务列表操作列的“更多 > 实例管理”,进入实例管理页面。
结束 结束节点是工作流的基础节点之一,仅包含“结束节点”一个执行动作。 结束节点作为整条工作流的输出返回,需配置响应体、状态码、响应头参数。 表1 结束节点参数说明 参数 说明 选择回答模式 由Agent生成回答:Agent绑定了大模型时,由大模型对工作流的输出进行总结,生成自然语言回答。
初始化AppStage基础信息 在使用AppStage各中心功能前,需要组织管理员对组织、人员、服务等进行初始化配置,为后续的应用开发、运维及运营等应用生命周期管理活动进行必要的环境和人员配置。 前提条件 已购买AppStage 已为AppStage关联组织 已配置AppStage各中心服务授权
请参考新增平台API Key获取AI原生应用引擎平台API Key。 本实践选用资产中心预置的第三方模型glm-4作为旅游规划模型,请参考如何对模型供应商提供的模型服务设置鉴权设置模型鉴权。 构建旅游规划工作流 在AI原生应用引擎的左侧导航栏,选择“Agent编排中心 > 我的工作流”。
使用TF模板包批量创建资源 运维中心IaC当前仅支持少量华为云资源的创建,大部分的资源,包括MRS、CCE集群等不支持通过IaC创建。资源编排服务(Resource Formation Service,简称RFS)封装了TF规范协议,支持华为云上大部分云资源的管理。运维中心当前已
使用模板构建方式新建卡片 用户根据需求选择卡片模板或我的卡片快速创建所需卡片。 这里可以使用的卡片模板,包含系统预置的卡片模板和用户自定义创建的卡片模板。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。 使用模板构建方式新建卡片 登录AppStage业务控制台。