检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
通过调测模型,可检验模型的准确性、可靠性及反应效果,发现模型中存在的问题和局限性,确保模型能够在实际应用中正常运行,并且能够准确地预测和处理数据。 支持对我的模型(我部署的、我接入的)、我的路由策略、平台资产中心预置的部分模型以及模型服务商提供的模型进行调测。 前提条件 对模型服务商提供的模型进行
在AppStage中管理服务 服务是实现一系列功能的软件模块单元,是产品的组成要素,一个产品一般由一个或多个服务组成。一个大型的应用程序可以拆分成一组小型、独立的服务。每个服务都运行在自己的进程中,并通过轻量级的通信机制(如HTTP或消息队列)进行相互通信。每个服务都专注于完成特定的业务功能,并且可以独立地进行开发、部署和扩展。
灰度服务配置 本章介绍通过IaC进行灰度服务配置的管理,包括灰度规则的管理及灰度阶段切换。对应的资源类型为WiseCloud::LoadBalancer::GrayConfig。 灰度比例转换为pod个数是通过向下取整法,例如:共6个pod,如果灰度比例配置为10%,灰度pod个数则为6
Bug”相关的能力,缺陷管理严格把控缺陷提出、分析、修复、测试、验收、关闭的完整流程,提供跨项目的缺陷作业跟踪追溯能力,实时识别产品缺陷风险,为组织的产品交付质量提供保障。 管理版本缺陷 Scrum项目 在开发中心首页下方的“我的团队”区域,选择需要操作的团队卡片,进入该团队空间。
数据连接器 数据连接器是工作流的基础节点之一,包含“json解析”和“cdm解析”两个执行动作。 数据解析连接器用于解析接收到的一个对象或者数组,以获取到用户想要的数据。 json解析 输入参数 json解析执行动作,输入参数说明如表1所示。 表1 json解析输入参数说明 参数
judge历史的原始详情中出现judge_data_size(in):0提示。 可能原因 judge没有获取到数据。 解决方法 检查告警原始表汇聚任务配置的汇聚提前时间和judge任务的汇聚提前时间,保证对应时间点能够获取到数据即可。 操作步骤 找到告警原始表对应的汇聚任务(MP
转发策略配置 本章介绍通过IaC进行转发策略配置的管理,包括监听下的转发策略、健康检查、后端服务器及动态路由管理。对应的资源类型为WiseCloud::LoadBalancer::SLB::RouteRule。 表1 转发策略配置字段说明 参数名 类型 是否必选 说明 listenerGroupName
KnowledgeRetriever提供了知识库检索的能力,可以检索开发者的知识库,提取相关的信息。 实例化 表1 实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders
Agent体验是指以对话的形式,对我创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 体验Agent 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的Agent”。 选择“我创建的”页签,单击Agent列表“操作”列的“体验”。
弹性网络服务(ENS)通过引入“隔离域”这一网络资源概念,将业务使用的底层网络资源进行封装,为具有相同安全保护需求并相互信任的服务提供访问策略的安全分组。当服务器加入到隔离域后,即受到这些访问规则的保护。访问规则继承自选定的安全区域(安全域),并根据租户声明的服务依赖关系自动生成。 图1 ENS与原有模式差异
用户在使用AppStage服务时,账户的可用额度小于待结算的账单,即被判定为账户欠费。欠费后,可能会影响服务资源的正常运行,请及时充值。 欠费原因 已购买资源包,但使用量超出资源包额度,进而产生按需费用,同时账户中的余额不足以抵扣产生的按需费用。请参考已购买资源包,为什么仍然产生按需计费识别产生按需计费的原因,
SLB实例配置 本章介绍通过IaC进行SLB实例配置的管理,包括nginx.conf,url重写/重定向,内网段,降级,黑白名单,流控,其他配置以及自定义lua配置,对应的资源类型为WiseCloud::LoadBalancer::SLB::Config。 SLB实例配置 表1 SLB实例配置字段说明
对象数组,标识从解析后的key,取哪些key作为值。 target_field:目标字段,解析到的值赋值给目标字段。 filter_keys: 字符串数组,从解析后的key中,依次获取到有值的进行赋值。【注意:该算子会将原始值和匹配的值转换成小写比较】。 default: 如果没有取到值的默认值。
种类型的Agent。 LLM模式下,将准备好的模型服务(必选)、工具、工作流及知识库等编排成Agent。 工作流模式下,用户与工作流进行对话,因此必须添加工作流,不支持添加模型、工具、知识库等配置。 2 体验Agent 以对话的形式,对创建的Agent或平台资产中心预置的AI应用
在“微服务管理”界面列表中,支持的其他操作请参考表1。 表1 相关操作 操作 说明 查看微服务详情 在对应的“微服务中文名”列下,单击微服务中文名。 编辑微服务 在对应的“操作”列下,单击“编辑”。 微服务“状态”为“草稿”,才能编辑。 删除微服务 在对应的“操作”列下,单击“删除”。
将${version}替换成实际所使用的SDK版本。 如果采用本地依赖的方式引入SDK,即手动将本地下载的SDK包引入到工程,还需要添加间接依赖:httpx、pydantic、jinja2。 初始化SDK 在使用SDK之前,请配置鉴权参数。支持WiseAgent平台的API Key鉴权。 import
configparser为自定义参数解析工具,通过NUWA部署时,解析参数模板,将模板中的参数变量,替换为实际的配置项值。 准备工作 下载configparser工具,在tools文件夹中获取configparser工具。 将本地的configparser工具复制粘贴至项目的bin目录下。 使用configparser工具
源进行手动续费的操作。 图1 续费管理 所有需手动续费的资源都可归置到“手动续费项”页签,具体操作请参见如何恢复为手动续费。 在列表中找到需要续费的订单,单击操作列的“续费”。 图2 手动续费 选择续费时长,判断是否勾选“统一到期日”,将套餐到期时间统一到各个月的某一天(详细介绍
为workflow,代表调用workflow的返回,返回内容在response下的data下的responseBody中。后续非message的返回同理,先返回hint提示调用类型,再返回真正的响应。最后的message类型是大模型的响应。 { "hint_data" : {
在“微服务管理”界面列表中,支持的其他操作请参考表1。 表1 相关操作 操作 说明 查看微服务详情 在对应的“微服务中文名”列下,单击微服务中文名。 编辑微服务 在对应的“操作”列下,单击“编辑”。 微服务“状态”为“草稿”,才能编辑。 删除微服务 在对应的“操作”列下,单击“删除”。