检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
平台预置了开源模型chatglm3-6b,并提供对应的模型服务API,但是该模型能力有限,只能作为问答模型,不能作为思考模型。首次使用该模型服务API需要订购免费的“ChatGLM3-6B大模型服务API在线调用”资源,订购后即可进行体验,订购操作请参见购买AppStage。 平台预置了
String 按照用户配置的工作流请求参数配置,如果用户配置的工作流输入存在查询参数,则应该配置对应的参数并在调用时输入特定的值。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 authorization 是 String AI原生应用引擎鉴权API Key。
应用数据接入周期性任务运行失败 问题描述 应用数据接入时,执行周期性任务,提示运行失败。 处理方法 检查数据文件是否按照要求放在pt_d=****/pt_h的文件夹下面。 父主题: 运营中心
查看注册到CloudMap的微服务信息 查看注册到CloudMap的微服务列表 配置微服务治理 在CloudMap中删除微服务 查看微服务版本信息 查看及导出微服务接口契约 查看微服务的依赖关系 查看依赖服务(声明) 查看SLB后端集群 父主题: 管理Cloud Map中的服务资源
轮询:支持按照服务实例的位置信息顺序路由。 响应时间权值:提供最小活跃数(时延)的权重路由,支持业务处理慢的服务实例接收较少的请求,防止系统停止响应。这种负载均衡策略适合请求量少且稳定的应用。 会话粘滞:会话粘滞是负载均衡器上的一种机制,在设定的会话保持时间内,会保证同一用户相关联的访问请求会被分配到同一实例上。
查看模型调用统计 模型调用统计页面展示当前租户所在的根部门以及租户下二级子部门的模型调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板 > 模型调用统计”。
String 按照用户配置的知识检索流请求参数配置,如果用户配置的知识检索流输入存在查询参数,则应该配置对应的参数并在调用时输入特定的值。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 authorization 是 String AI原生应用引擎鉴权API Key。
查看注册到CloudMap的服务信息 查看注册到CloudMap的服务列表 为微服务配置告警策略 父主题: 管理Cloud Map中的服务资源
参数类型 描述 agent-id 是 String 进入AI原生应用引擎,在左侧导航栏选择“Agent编排中心 > 我的Agent”,选择“我创建的”页签,选择列表操作列的“更多 > 修改”,在浏览器地址栏查看id。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 Authorization
通过运营看板查看AI原生应用引擎资产总览 查看资产总览 查看模型调用统计 查看Agent调用统计
Map服务资源介绍 服务发现(Cloud Map)是云服务统一的服务注册发现中心,主要是为解决业务依赖环境配置繁琐的难题。 不支持替换业务自己的ZooKeeper、ETCD等配置中心。 服务资源介绍 Cloud Map根据服务注册和发现方式不同,把管理的服务资源分为三种:微服务、中间件、接入地址(URL),具体介绍如表1所示。
为workflow,代表调用workflow的返回,返回内容在response下的data下的responseBody中。后续非message的返回同理,先返回hint提示调用类型,再返回真正的响应。最后的message类型是大模型的响应。 { "hint_data" : {
应用平台IaC部署代码开发 IaC概述 准备工作 IaC代码结构介绍 IaC Spec包典型目录结构 IaC Patch包典型目录结构 在IaC代码中声明资源 在IaC代码中定义流水线 包描述文件介绍 IaC资源参数介绍
通过调测模型,可检验模型的准确性、可靠性及反应效果,发现模型中存在的问题和局限性,确保模型能够在实际应用中正常运行,并且能够准确地预测和处理数据。 支持对我的模型(我部署的、我接入的)、我的路由策略、平台资产中心预置的部分模型以及模型服务商提供的模型进行调测。 前提条件 对模型服务商提供的模型进行
将${version}替换成实际所使用的SDK版本。 如果采用本地依赖的方式引入SDK,即手动将本地下载的SDK包引入到工程,还需要添加间接依赖:httpx、pydantic、jinja2。 初始化SDK 在使用SDK之前,请配置鉴权参数。支持WiseAgent平台的API Key鉴权。 import os
工作流模式下,用户与工作流进行对话,因此必须添加工作流,不支持添加模型、工具、知识库等配置。 2 体验Agent 以对话的形式,对创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 3 使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 父主题:
查看微服务的依赖关系 本文介绍通过管理台查看及删除微服务的依赖关系。 查看微服务依赖的服务 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 服务发现”。 选择左侧导航栏的“服务目录 > 一方服务”。 选择“微服务列表”页签,单击微服务列表中的微服务名。
e的运维中心、运营中心的计费项由套餐包及对应的扩展包、增量包组成;AI原生应用引擎的计费项为模型或套餐包。了解每种计费项的计费因子、计费公式等信息,请参考计费项。 续费 包年/包月AppStage服务在到期后,会影响AppStage的正常运行。如果您想继续使用AppStage,需
查看注册到CloudMap的数据库列表 数据库集群信息统一展示在数据库列表中,数据库列表只提供查询和展示的能力,不提供对数据库的增、删、改操作。所有的增删改操作都在WiseDBA管理台上操作,WiseDBA上的操作,会自动同步到Cloud Map的数据库列表。 查看注册到CloudMap的数据库列表
查看注册到Cloud Map的中间件 中间件是指业务服务实现自身功能需要用到的技术组件,随业务服务独立部署和运维。 中间件统一展示在中间件列表中,中间件列表只提供数据的查询和展示,不提供对数据的增、删、改操作。所有的增删改操作都在各中间件的管理台上操作,中间件管理台上的操作,会自动同步到Cloud